בכירי ה-AI ידעו שהם עומדים להרוס את הרשת – והמשיכו

השבוע הוסר החיסיון מעשרות עמודים של התכתבויות ומסמכים פנימיים של מיקרוסופט ושל OpenAI, שצורפו לתשובת החברות לבקשה לפסק דין מקוצר שהגישו עורכי הדין של הניו יורק טיימס לבית המשפט הפדרלי במחוז הדרומי של ניו יורק. מי שציפה למצוא שם התחמקויות משפטיות מנוסחות היטב מצא משהו אחר לגמרי: תיעוד מסודר ומרשיע של אנשים שהבינו היטב את המשמעות ההרסנית של מעשיהם, ואפילו ניסחו אותה במילים חדות בהרבה מאלה של התובעים – ודהרו קדימה.

ברנט הכט, בכיר במיקרוסופט, כתב במזכר פנימי בינואר 2023 שהציבור עתיד לראות באימון המודלים "גניבה מדהימה בממדים חסרי תקדים", ואף "גניבת העבודה הגדולה בהיסטוריה האנושית". הכט לא הסתפק ברטוריקה: הוא הסביר שמודלים ששואבים תוכן ללא מנגנון להעברת ערך כלכלי במורד שרשרת האספקה מאיימים, בהכרח, על היציבות הכלכלית של מי שמייצר את התוכן הזה מלכתחילה, כלומר – אתרי החדשות והתוכן.

ניק טרלי, ראש ChatGPT ב-OpenAI, כתב פנימית שהמו"לים ניצבים בפני "איום קיומי", ושהמוצרים של החברה הם כבר כיום "תחליפיים במידה רבה" לתוצרים שלהם – ויהיו כאלה יותר ויותר. באחת העדויות היותר מרשיעות בתיק, שהוצגה בפני גרג ברוקמן, נשיא ומייסד-שותף של OpenAI, הוצגה שיטה לעקוף את חומת התשלום של הניו יורק טיימס, והוא השיב בשתי מילים: "אה, נחמד".

"לולאת האבדון"

הביטוי החריף ביותר במסמכים הוא דווקא טכני באופיו: מסמך פנימי של מיקרוסופט קובע כי "אסטרטגיית תוכן ה-AI שלנו יצרה 'לולאת אבדון', שתפגע בביצועי המודלים שלנו וברשת כולה בו זמנית". זו טענה חשובה במיוחד, כי היא קובעת במפורש שככל שהמודלים מייתרים את הגלישה לאתרי התוכן המקוריים, כך נשחק התמריץ לייצר תוכן חדש, וככל שהתוכן החדש מידלדל, כך נשחקים המודלים עצמם. חברות הבינה המלאכותית למעשה כורתות במו ידיהן את הענף שעליו הן יושבות, מזהמות את הבאר שממנה הן שותות או כל דימוי אחר שתרצו. השורה התחתונה היא שתופעת "אפס גוגל" היא אמיתית.

נתוניה הפנימיים של מיקרוסופט, כפי שהוצגו בתשובתה לבקשה, מראים ששיעורי ההקלקה מ-Bing Chat אל אתרי הניו יורק טיימס נמוכים ב-87% עד 93% מאלה של חיפוש רגיל, ואל אתרי החדשות ככלל – ב-83% עד 91%.

סאטיה נאדלה, מנכ"ל מיקרוסופט, העיד בעצמו בתצהיר שהגישו התובעים שהקליקים לאתרי החדשות "קרסו לחלוטין", בשיעור של יותר מ-90%. באותה עדות הוא גם אמר משפט שקשה להפריז בחשיבותו עבור עולם ההוצאה לאור המקוונת כולו: כל מה שנמצא מאחורי חומת תשלום צריך להיות מוסדר ברישיון על ידי מי שרוצה להשתמש בו, בין לאימון ובין לביסוס תשובות.

וזו כבר לא בעיה של העיתונות בלבד: לפי נתוני Chartbeat, שפורסמו בדו"ח המגמות של מכון רויטרס לחקר העיתונות, תנועת החיפוש העולמית לאתרי תוכן ירדה בכשליש עד נובמבר האחרון, ואילו בארצות הברית הצניחה בחיפוש האורגני הגיעה ל-38%. במקביל, ChatGPT מחזיר לאתרים 0.02% בלבד מכלל תנועת ההפניות, שזה כלום בריבוע. במילים אחרות, מה שנלקח אינו מוחזר כלכלית, אפילו לא בפירורים. המו"לים עצמם, באותו סקר, צופים ירידה ממוצעת של 43% בתנועה בשלוש השנים הקרובות, והם כנראה היו אופטימיים.

חברות הבינה המלאכותית למעשה כורתות במו ידיהן את הענף שעליו הן יושבות, מזהמות את הבאר שממנה הן שותות או כל דימוי אחר שתרצו. השורה התחתונה היא שתופעת "אפס גוגל" היא אמיתית

האם ייתכן שמיקרוסופט ו-OpenAI דווקא יזכו בתביעה?

מבחינה משפטית, ההגנה של מיקרוסופט ו-OpenAI נשענת על עיקרון השימוש ההוגן. עמדתן אינה חסרת סיכוי: בתי משפט בערכאות הנמוכות נטו בשנתיים האחרונות לצד חברות ה-AI, ובספטמבר משרד המשפטים האמריקני אף הגיש תזכיר שתומך בעמדת OpenAI, בטענה שאימון מודלים מייצר תועלת ציבורית משנת עולם, המקזזת פגיעה תחרותית.

ברם, הנקודה המעניינת במסמכים שנחשפו היא לא משפטית, אלא עסקית. מבחן הערך המשנה חברתית, לב ההגנה, שואל אם המוצר החדש מחליף את המקור או יוצר משהו אחר. קשה לטעון בפני שופט שאתה לא מחליף את המקור כשמנהל בכיר כותב במייל פנימי שהמוצר הוא "תחליפי במידה רבה". התובעים אפילו לא נדרשו לכתוב את טיעוני הסיכום שלהם – הם פשוט מצאו אותם בתיבת המייל של הנתבעים.

יתרה מכך, "לולאת האבדון" אינה איום על התעשייה בלבד, אלא גם על מי שיצר אותה. מודל שמייבש את מקור המידע שלו מגיע, בסופו של דבר, לרמת ביצועים נמוכה מזו שאיתה הוא התחיל, ואין כמות מחשוב שתפצה על היעדר סיקור של אירועים חדשים בעולם – מה שבהכרח ייגרם מפגיעה באתרי החדשות והתוכן. מדובר כאן לא ברשלנות, אלא בצעד מכוון של גזל, כשהערכת הנזק החמור שהוא גורם נגנזה, משום שהמרוץ התחרותי היה חשוב יותר.

לסיום אציין שהשוק הישראלי, ועולם התוכן העברי בפרט, קטן וריכוזי בהרבה מזה האמריקני, ועל כן גם פגיע ממנו. הסדרי הרישוי שייקבעו בניו יורק, אם ייקבעו, יגדירו את הכללים שלפיהם ייסחר גם התוכן העברי המסחרי בשנים הקרובות.