בכנס בחיפה: נציגי ענקיות הטק הזהירו ממתן אוטונומיה מלאה ל-AI

המעבר המואץ של הבינה המלאכותית אל ליבת הפעילות העסקית, הביטחונית והציבורית מעלה שאלות כבדות משקל שעד לאחרונה נדחקו לשוליים. בפסגת Efficient & Responsible AI R&D, שהתקיימה אתמול (ב') בחיפה, התכנסו לראשונה בישראל בכירי חברות טכנולוגיה גלובליות, אקדמיה ורגולציה לדיון פתוח על גבולות הכוח של ה-AI.

הכנס, בהובלת HIT מכון טכנולוגי חולון, אינטל (Intel) ו-IAHLT, הפגיש נציגים מ-גוגל (Google), דל (Dell), יבמ (IBM), רפאל (Rafael) ו-טבע (Teva), לצד בכירים מהמגזר הציבורי והאקדמי. 

במוקד העיסוק באירוע עמדו האתגרים הכלכליים והמערכתיים של דור ה-AI הבא: מודלי שפה גדולים, סוכנים אוטונומיים וארכיטקטורות חישוב מתקדמות, ובעיקר השאלה כיצד מנהלים סיכונים, כשהאלגוריתמים מתחילים לקבל החלטות בפועל.

משתתפי פסגת ה-AI בחיפה. מימין לשמאל: ד"ר נאווה שקד, ראש בית הספר ללימודים רב-תחומיים ב-HIT; רוני שליט, קצין הציות והאתיקה הראשי של Bright Data; מירב פרץ בילינסקי, ראש חטיבת דאטה ו-AI במערך הדיגיטל הלאומי; ד"ר יובל ריינפלד, יו"ר הוועדה המשפטית לבינה מלאכותית בלשכת עורכי הדין; ד"ר קובי ברדה, חוקר ומרצה בכיר ב-HIT. צילום: HIT מכון טכנולוגי

"בינה מלאכותית לא מבטלת הטיות אנושיות"

ד"ר שרה בסון, האחראית על תחום הנגישות וההכלה במדינות מתפתחות ב-גוגל העולמית, הזהירה מפני האשליה של A "אובייקטיבית". לדבריה: "בינה מלאכותית לא מבטלת הטיות אנושיות. בני אדם בונים את האלגוריתמים, אוספים את הנתונים ומחליטים מה לעשות עם התוצאות". היא הצביעה על מערכות גיוס ואלגוריתמים חזותיים שממשיכים להדיר אוכלוסיות שלמות, לעיתים מבלי שהארגונים עצמם מודעים לכך.

ד"ר שרה בסון, אחראית על תחום הנגישות וההכלה במדינות מתפתחות ב-גוגל העולמית. צילום: HIT מכון טכנולוגי

מן הזווית הביטחונית, אלעד שטרית, סמנכ"ל בכיר למחקר ופיתוח ב-רפאל, תיאר שינוי תפישתי בהפעלת מערכות לחימה.

"אנחנו עוברים מעולם שבו מפעיל מטיס רחפן בעצמו, לעולם של אייג'נטים – המפעיל מדבר והמערכת מפעילה צוות של רחפנים באופן אוטונומי", אמר. לדבריו, רפאל כבר בוחנת את יכולות ה-AI על חומרים מבצעיים אמיתיים, אך מודה כי הדילמה המרכזית נותרת בעינה: "כמה נוכל לסמוך על המערכת ולתת לה לקבל החלטות לבד".

גם סוגיית התשתיות עלתה לדיון. תומר ששון, סגן נשיא בחטיבת המחשוב האישי של אינטל, קרא לאתגר את התלות בענן והדגיש את חשיבות ה-Edge: "העתיד של AI יישען יותר ויותר על עיבוד בקצה במחשבים אישיים, ברובוטיקה ובמערכות רכב", אמר. לדבריו, מדובר לא רק בחיסכון בעלויות ובאנרגיה, אלא בתנאי בסיס לאמינות ולשליטה.

מהאקדמיה נשמעה בפסגה קריאה לשיתוף פעולה הדוק יותר עם התעשייה. ד"ר רפאל ברכאן, סגן נשיא לחדשנות ב-HIT מכון טכנולוגי חולון, התריע מפני הבהלה הגוברת בקרב סטודנטים למדעי המחשב על רקע מהפכת ה-AI, וקרא לגיבוש מענה אסטרטגי משותף למצב שהתפתח.

הפסגה בחיפה לא עסקה רק בשאלה מי יוביל את מרוץ הבינה המלאכותית, אלא מי יידע לנהל אותה: כלכלית, רגולטורית וציבורית. שאלה שהופכת להחלטה אסטרטגית עם השלכות רחבות על שווקים, ארגונים ומדינות.