בכירי ה-AI על במה אחת – מה הם חושבים על בטיחות הבינה המלאכותית?

כמה מהבכירים ביותר בעולם ה-AI הופיעו אתמול (ג'), בזה אחר זה, בכנס Dreamforce השנתי של סיילספורס, שנערך בסן פרנסיסקו. הבכירים – ג'נסן הואנג מאנבידיה, דריו אמודאי מאנת'רופיק וסם אלטמן מ-OpenAI – שוחחו עם מארק בניוף מסיילספורס עצמה על הבמה, ולא הציגו עמדה אחידה בסוגיה הבוערת ביותר בעולם הטכנולוגי כיום: עתיד ה-AI, ובעיקר הבטיחות שלה.

אמודאי: "מוטרד מקצב התקדמות ה-AI"

חילוקי הדעות הבולטים ביותר נתגלעו בין אמודאי ואלטמן להואנג (וגם למארק צוקרברג ממטא, שלא השתתף בכנס, אולם כתב על כך בפוסט). בקצרה, המנכ"לים של אנת'רופיק ו-OpenAI בעד רגולציה על פיתוח הבינה המלאכותית, ואלה של אנבידיה ומטא – נגד.

אמודאי עלה על הבמה בכנס ימים אחדים לאחר שפרסם בסוף השבוע מאמר מקיף, שבו קרא לחברות הטכנולוגיה להאט באופן יזום ומבוקר את קצב שדרוג היכולות של המודלים, עקב הדאגות לבטיחות ה-AI. הוא אמר בכנס כי "אני מוטרד במיוחד מקצב ההתקדמות – לא רק של הטכנולוגיה אלא גם של הכלכלה, בעקבותיה".

דריו אמודאי, מנכ"ל אנת'רופיק, ומארק בניוף, מנכ"ל סיילספורס, על הבמה בכנס Dreamforce. צילום: יח"צ

מנכ"ל אנת'רופיק קרא לתעשייה ליצור שקיפות רבה יותר ולבצע פעולות רבות יותר לבטיחות ה-AI. "בוא נסתכל על הפעילות שלנו, באנת'רופיק", הוסיף אמודאי בשיחתו עם בניוף על הבמה. "לא היה לנו אירוע בפרופיל גבוה (כמו, למשל, הפריצה של הסוכנים של OpenAI להאגינג פייס – י"ה), אבל אני בטוח שאנחנו לא מושלמים. אנחנו תמיד יכולים להיות טובים יותר". כאן הוא פנה לכלל התעשייה ואמר: "בואו נסתכל כיצד לעשות את הדברים בצורה טובה יותר. בואו נשפר את שיטות העבודה שלנו. בואו נתחייב שוב לשקיפות. בואו נשקיע יותר בבטיחות. בואו נאגד את התעשייה ונבחן אילו סטנדרטים אנחנו יכולים לאמץ, כולנו".

אלטמן: "יש לאנשים זכות לפחד מהבינה המלאכותית"

מנכ"ל OpenAI ציין שיש לאנשים "זכות לפחד" מהתפתחות הבינה המלאכותית, אולם עליהם לסמוך על החברות בתחום ולתת בהן יותר אמון. "העולם צריך לבטוח שאנחנו עושים את הדבר הנכון, כי זה הדבר הנכון לעשות ואנחנו מבינים עד כמה זה גדול וחשוב", אמר ב-Dreamforce.

בפוסט שפרסם אלטמן שלשום ב-X הוא כתב: "יש שתי דרכים שבהן התפתחות הבינה המלאכותית יכולה להזיק לנו מאוד, ואנחנו חייבים להימנע מכך. קודם כל, אנחנו עלולים לאבד שליטה על עתיד ה-AI. זה דבר לא מקובל. אנחנו לא מתנצלים שאנחנו בצד של האנושיות והבינה המלאכותית תמיד צריכה לשרת אנשים. כדי להבטיח את זה, אנחנו צריכים לוודא שטכניקות האבטחה יהיו תמיד לפני ההתפתחות של המודלים".

סם אלטמן, מנכ"ל OpenAI. צילום: FotoField, ShutterStock

"הדרך השנייה היא שאנחנו עלולים להגיע לעולם שבו יש ריכוזיות של יותר מדי כוח. אם לאדם אחד או לחברה אחת יהיו יכולות AI יוצאות דופן בכוח שלהן, הוא או היא עלול.ה לכפות את השקפת העולם שלו.ה על אנשים, והתוצאה של זה תהיה דיסטופיה. הימנעות משני האיומים האלה דורשת הליכה באמצע הדרך הצרה", הוסיף אלטמן.

לעומת זאת, אנשים בולטים בארצות הברית, בהם הסנאטור ברני סנדרס וסטיב באנון, לשעבר יועצו של הנשיא דונלד טראמפ, אמרו כי לא ניתן לסמוך על חברות הבינה המלאכותית שישמרו על סוכני ומודלי ה-AI בטוחים ולדאוג שהם לא יצאו משליטה. סנדרס אף קרא לחקיקה בנושא.

הואנג: "לא צריך עוד חוקים"

הואנג נקט גישה דומה לזו של טראמפ, ואמר בכנס של סיילספורס שאין צורך ברגולציה על תחום ה-AI. לדברי מנכ"ל החברה בעלת השווי הגבוה ביותר בעולם, כוחות השוק יובילו את התעשייה למקום הנכון, ולכן אין צורך בחוקים נוספים. הוא אמר כי על מפתחי המודלים לפתח את המודלים שלהם באחריות, וטען כי ניתן "בהחלט" לעשות זאת באחריות ובמהירות ביחד. "תרוצו הכי מהר שאתם יכולים. אבל אם אתם מרגישים, בכל נקודת זמן נתונה, שיצאתם משליטה או שהמוצר שלכם לא עומד להיות בטוח, תעצרו ותדאגו לכך".

ג'נסן הואנג, מנכ"ל אנבידיה. צילום: באדיבות אנבידיה

צוקרברג: השוק ידאג לבטיחות ה-AI בעצמו

צוקרברג הצטרף למחנה של טראמפ, הואנג ואחרים – אם כי הוא עשה זאת בפוסט ברשתות החברתיות, ולא על במת הכנס. מנכ"ל מטא מאמין ש-"חברות שיתמקדו ביישור קו יישארו מאחור". צוקרברג התייחס בכך למאמצים של המפתחים להבטיח שהטכנולוגיות שלהם עומדות בקו אחד עם הערכים האנושיים.

מארק צוקרברג, מנכ"ל מטא, והבינה העל אנושית שלו. צילום: אילוסטרציה - ChatGPT

"יש שיח ער האם צריך להאט את קצב הפיתוח של ה-AI עד שניישר קו", ציין. "הדעה שלי היא שאמון ויישור קו הופכים מהר מאוד ליכולות החשובות ביותר, שיבדילו בין הסוכנים והמודלים השונים". הוא הוסיף כי "מעבדות הבינה המלאכותית יסכנו את האמינות שלהן אם הן יוציאו מודלים שגורמים נזק", ולכן הן יעשו בעצמן את הכול כדי שזה לא יקרה. "במטא", הוסיף, "אנחנו עושים את זה כחלק מהעבודה היומיומית שלנו, כי זה לחלוטין הדבר הנכון ביותר עבורנו ועבור האנושות".

עד כמה העמדות שלהם נובעות מאינטרסים מסחריים?

עולה השאלה: עד כמה העמדות של כל אחד מהבכירים מושפעת מהאינטרסים העסקיים שלהם? ובכן, זה די ברור: אנבידיה מוכרת חומרה בכמויות ענק, עם עסקאות עתירות דולרים עם חברות וממשלות רבות, ולכן כל האטה בפיתוח הבינה המלאכותית תפגע בה. מטא מתחרה עם ה-Llama שלה ב-ChatGPT ובמודלים האחרים, ובעיקר רצה לעבר הבינה המלאכותית הסופר אנושית, ויש לה אינטרס ברור שההתקדמות לא תיעצר. לעומת זאת, אנת'רופיק ממתגת את עצמה מיומה הראשון כחברה ששמה את הבטיחות בראש סדר העדיפויות (Safety First), והדברים של אמודאי למעשה מחצינים את זה.

העמדה של OpenAI מעט יותר מורכבת, וגם היא נובעת מאינטרסים מסחריים: אלטמן נגד האטת קצב פיתוח המודלים, שתפגע גם בחברה שלו, ודוגל בפריסה הדרגתית של הטכנולוגיה, תוך כדי תנועה. לעומת זאת, הוא תומך ברגולציה ממשלתית על ה-AI ובטיחותה – מה שמציג אותו כדואג לאנושות. כך או כך, OpenAI מקימה בימים אלה גוף משותף עם אנת'רופיק וגוגל, שיפקח על התפתחות הבינה המלאכותית בחברות אלה.

יש לציין שנושא בטיחות ה-AI לא היה היחיד שעלה אתמול בהרצאות המפתח ב-Dreamforce: בניוף, הואנג ואמדואי התייחסו לנושאים נוספים שקשורים לבינה המלאכותית, ובהם התרומה שלה לאנושות ולארגונים, האם היא תוביל לפיטורי עובדים ומצב השוק. בניוף חזר על עמדתו שלפיה הדיבורים על "הסאאספוקליפסה (SaaSpocalypse – הלחם מילים של תוכנה כשירות ואפוקליפסה) ושהגיע עידן קץ התוכנה הם שטויות. ה-AI תהפוך את התוכנה להרבה יותר טובה, היא תשלים ותגדיר מחדש את התוכנה. הבינה המלאכותית פתחה דלת שמעולם לא נפתחה קודם".