אלטמן: "העולם צריך לקבל שדברים רעים יקרו בגלל ה-AI"

"העולם צריך לקבל שיקרו כמה דברים רעים לטובת פיתוח טכנולוגיית הבינה המלאכותית", כך אמר מנכ"ל OpenAI, סם אלטמן, בראיון ל-Decode מבית פוליטיקו, שחלקו התפרסם אתמול (א'). לדבריו, כדי לקבל את היתרונות של ה-AI, צריך לקחת סיכונים.

אלטמן ו-OpenAI נמצאים בימים אלה במרכז השיח על הבינה המלאכותית, הנזקים שלה והאם נדרשת רגולציה. בעבר, הגישות שלו ושל מנכ"ל אנת'רופיק, דריו אמודאי, שמצדד בהטלת רגולציה על החברות המפתחות את ה-AI היו שונות, אולם בחודשים האחרונים אלטמן החל לצדד גם הוא בגישה הזאת, לפחות חלקית. הפריצות של הסוכנים ה-"סוררים" של OpenAI, למשל להאגינג פייס, הביאו את המנכ"ל לצדד בהחלת חוקים על התחום. כך, למשל, כריס להאן, הסמנכ"ל של OpenAI לעניינים גלובליים, פרסם בחודש שעבר מאמר באתר החברה, תחת הכותרת "חלון מדיניות ה-AI פתוח. אנחנו צריכים לפעול". באחרונה, לוביסטים מטעם החברה אף הביעו תמיכה בהצעת חוק שנדונה בבית הנבחרים של ארצות הברית, שמחייבת את ענקיות ה-AI לשתף גורמים חיצוניים בהערכת הבטיחות של המודלים שלהן. הצעת החוק מוסכמת על שתי המפלגות – הרפובליקנית והדמוקרטית.

"לא מסכים" עם המזהירים, אם כי "מבין אותם"

אלטמן אמר בראיון כי "אני לא מסכים, אם כי אני מבין אנשים שאומרים ש-'הטכנולוגיה הזאת הולכת להיות כל כך חזקה, וזה מאוד מסוכן שהיא תהיה בידי מעבדה אחת בסן פרנסיסקו, וצריך לוודא שלא יקרו דברים רעים, ואם צריך לוותר על יתרונות". לדבריו, "זאת פשרה לחלוטין לא מקובלת, והגישה שלנו כלפי רגולציה מתונה יותר".

הוא הוסיף כי "לא הייתי מסכים לעסקה שלפיה 'נדאג שלא היו פריצות משמעותיות, שלא יהיה שימוש לרעה בטכנולוגיה הזו, ושיהיו אפס מקרי הונאה ואפס מקרים רעים אחרים שעלולים לקרות בגלל הטכנולוגיות הזאת". לדבריו, היתרונות עולים כאן על החסרונות: "אני סבור שאנשים יעשו עם הבינה המלאכותית דברים טובים בהיקף עצום, בסדרי גודל רבים יותר לעומת הדברים הרעים".

בהמשך אמר אלטמן כי הוא לא מקבל את התיאוריות השחורות, שלפיהן הסיכונים מהבינה המלאכותית "קטסטרופליים" וקיים חשש לאובדן שליטה עליה.

(עוד) סערה ב-OpenAI

OpenAI נמצאת בימים האחרונים במוקד של סערה חדשה, לאחר שפיטרה שלושה חוקרים בשל מה שכינתה חריגה מנוהלי העבודה המקובלים, וטיפול לקוי ולא מאושר במידע מסווג. בין היתר, נמסר מהחברה, אותם חוקרים העבירו מידע לחברת הערכת בטיחות חיצונית.

אותם חוקרים הביעו דאגה מהיכולות של הבינה המלאכותית. אחד מהם, מיקיטה בלסני, כתב בפוסט כי "אני עובד ב-OpenAI ואני מעריך שיש סיכוי של יותר מ-10% שבינה מלאכותית תהרוג את כל בני האדם".

מכה נוספת שהחברה ספגה באחרונה היא התפטרותו של דיוויד רובינסון, שהוביל במשך שלוש שנים וחצי את כתיבת דו"חות הבטיחות של מוצריה והיה מוותיקי העובדים בה. רובינסון ציין כי "OpenAI שגשגה באמצעות ניסוי וטעייה, תוך חיפוש בעיות ושיפור מנגנוני ההגנה בתגובה להן. אך גישה זו, מעצם טבעה, מבטיחה כשלים תקופתיים – וההיקף של כשלים אלה גדל ככל שהמערכות הופכות לעוצמתיות יותר".

לדבריו, פיתוח בינה מלאכותית מתקדמת דורש אופן פעולה כמו כורים גרעיניים או נמלי תעופה עמוסים, עם שכבות יתירות ותכנון זהיר.