מנכ"ל אנת'רופיק מזהיר מפני קברניטי ה-AI המובילים את התחום

דריו אמודיי, מנכ"ל חברת הבינה המלאכותית הבולטת אנת'רופיק (Anthropic), הציג באחרונה את טרדיותיו בנוגע ל-AI, ועשה זאת במהלך ראיון גלוי שהעניק לתוכנית "60 דקות" של רשת CBS. בעיקר התייחס אמודיי לעניין ריכוז הכוח בפיתוח טכנולוגיות AI ובהובלת התחום.

אמודיי, המשתייך בעצמו לאותה אליטה טכנולוגית עליה הלין בראיון, אמר למראיין, אנדרסון קופר, בהקשר לדרך שבה מובלת כיום טכנולוגיית הבינה המלאכותית: "אני חושב שאני חש אי-נוחות עמוקה מכך שההחלטות מתקבלות על ידי מספר קטן של חברות, ומספר קטן של אנשים". כאשר קופר תהה מי בחר בו ובבכירים נוספים כמו סם אלטמן, מנכ"ל OpenAI, כקובעי הטון, אמודיי השיב בכנות: "אף אחד. בכנות, אף אחד". עמדה זו שהציג מנכ"ל אנת'רופיק מדגישה את המתח המרכזי שבין חדשנות טכנולוגית לבין הצורך בפיקוח דמוקרטי על ההתפתחות שלה.

 

View this post on Instagram

 

A post shared by 60 Minutes (@60minutes)

עד שנת 2026 – AI יכולה לעקוף בחוכמה את מרבית בני האדם

חששו של אמודיי נובע מההתקדמות המסחררת של התחום, כאשר הוא העריך כי מערכות בינה מלאכותית יכולות לעקוף בחוכמתן את מרבית בני האדם כבר עד שנת 2026, כפי שדווח בבלומברג.

בראיון, המנכ"ל הדגיש כי AI עלולה גם לייצר סיכונים קריטיים ורחבים, החל מהגברת הטיה ומידע שגוי, דרך יצירת מידע מזיק באמצעות ידע מדעי והנדסי משופר, ועד איום קיומי שבו היא עלולה לפעול ללא פיקוח אנושי. הוא הזהיר שקיים צורך "לקרוא לילד בשמו" בכל הנוגע לסכנות פוטנציאליות, והשווה את שתיקת התעשייה בנושאים אלו לתעשיות מזיקות אחרות: "אתה יכול להגיע למצב, כמו זה של חברות הסיגריות או חברות האופיואידים, שבו הן ידעו שיש סכנות ולא דיברו עליהן".

האזהרות של אמודיי נוגעות גם להשפעה הכלכלית הנרחבת; הוא מתריע כי הטכנולוגיה עלולה לשבש באופן משמעותי את שוק העבודה ולגרום להיעלמות של עד 50% ממשרות הצווארון הלבן ברמת כניסה בתוך חמש שנים, מה שעלול להביא לעלייה בשיעורי האבטלה ל-10%-20%. בנוסף הוא טוען כי התעשייה מציגה מצג שווא בנוגע להשפעות הבינה המלאכותית על התעסוקה.

לא הוסר שהאקרים סינים עשו בו שימוש במתקפה. קלוד של אנת'רופיק. צילום: Shutterstock

למרות אזהרותיו החמורות על הסיכונים הקיומיים ושיבושי התעסוקה, אמודיי נותר אופטימי לגבי פוטנציאל ה-AI, שכן הוא רואה בטכנולוגיה יכולת "לפתור את הבעיות הגדולות ביותר של החברה". מנכ"ל מפתחת מודל השפה הגדול קלוד (Claude) הזהיר בדבריו מפני טבעה הכפול של הבינה המלאכותית, שיכולה להיות "מסוגלת לטוב עצום" אך לדבריו דורשת פיקוח דחוף. הוא אמר שהוא צופה כי ה-AI תוכל להוביל להתקדמות פורצת דרך, במיוחד בתחומים כמו מחקר הסרטן והארכת חיים.

אמודיי כינה בראיון את השינוי המהיר והדרמטי הזה בשם "המאה ה-21 הדחוסה" ("compressed 21st century"), כשמשמעות המושג היא שההתקדמויות הרפואיות המשמעותיות ביותר, שאמורות היו להתפרש על פני תקופה ארוכה, עשויות להתרחש בתוך עשור אחד בלבד.

נזכיר כי חברת אנת'רופיק, שהוקמה ב-2021 על ידי בכירים לשעבר ב-OpenAI, כולל אמודיי ואחותו דניאלה אמודיי, ממוקמת כיום כמפתחת מרכזית בתחום ה-AI והיא גם גייסה השקעות ענק, כולל עד 4 מיליארד דולר מאמזון ו-2 מיליארד דולר מגוגל. החברה, ששמה את הבטיחות והשקיפות בליבת המותג שלה, טוענת כי היא מפתחת "תכונות בטיחות בחזית הטכנולוגית". לדוגמה, אנת'רופיק חשפה באחרונה כי סיכלה מתקפת סייבר בקנה מידה גדול שבוצעה על ידי הסינים בעזרת קלוד וללא התערבות אנושית משמעותית. 

למרות הצלחות אלו אמודיי, שממש לוקח חלק מרכזי במרוץ חימוש ה-AI בשווי טריליוני הדולרים ובניסיונות להשיג בינה מלאכותית חדשנית יותר ויותר, התעקש בדבריו על הצורך הדחוף בפיקוח על התחום. הוא קרא להטיל מגבלות רגולטוריות כדי למנוע מה-AI לסטות ל"נתיב מסוכן". בנוסף הוא מתח ביקורת על סעיף בהצעת חוק בסנאט שנועד להטיל מורטוריום – משמע, להכריז על השעיה או עיכוב רשמי, לרוב זמני, של פעולה או חוק – ל-10 שנים על רגולציות AI ברמת המדינה. לטענתו תחום "ה-AI מתקדם במהירות מסחררת מדי", והמערכות הללו יכולות לשנות מהיסוד את העולם בתוך שנתיים בלבד, אם המחוקקים לא ישכילו להתערב, לפקח ולשמור על האבולוציה שלו.