"הבינה המלאכותית לא מאיימת על העולם"

"בכל פעם, כשמגיעה מהפכה טכנולוגית, קמים אנשים קיצוניים חדשים שמנבאים את סוף העולם. נחשו מה? הם טעו בכל פעם. מה קרה בפועל? המציאות הייתה במקום טוב באמצע: הטכנולוגיה החדשה חיה לצד גרסה משופרת של העולם הישן. כך, יש להניח, יהיה גם במקרה של ה-AI. העולם מתפתח ודברים אכן עומדים להשתנות, אבל הלקח מההיסטוריה הוא לא לפחד או להספיד את המציאות שאנחנו מכירים, אלא לבוא בראש פתוח", כך אמרה שי די קסטרו, ארכיטקטית ויועצת לתחום טרנספורמציית AI.

היא אמרה לאנשים ומחשבים כי "המציאות תתפתח לשיתוף פעולה בלתי פוסק בין בני האדם לבינה המלאכותית. המקום שלנו בעולם הזה לא מאוים על ידי המצאה כלשהי. הוא מעולם לא היה. אבל הרלוונטיות שלנו תלויה בנכונות שלנו להתפתח".

"ה-AI חושבת רק 'בתוך הקופסה'"

די קסטרו מלווה חברות בארץ ובחו"ל בתחום, ביניהן טולמנס, JPro ו-janover tech. לדבריה, "הבינה המלאכותית חושבת רק 'בתוך הקופסה', בגבולות המידע שעליו היא אומנה. היא יכולה, ביעילות רבה, לערבב, לשלב מחדש ולטייב את מה שכבר קיים, אבל אם התשובה לא הייתה כתובה מראש – היא לעולם לא תהגה אותה בעצמה",

היא אמרה כי "במציאות כיום, אמירות כמו 'ה-SaaS מת' ו-'ה-AI תחליף את כולנו' הפכו לחלק בלתי נפרד מהשיח היומיומי, לפחות בענף ההיי-טק. אני לא קונה את זה – וגם לכם, הקוראים, לא כדאי. רוב המחקר בתחום הבינה המלאכותית מתמקד בדבר אחד: דיוק. הוא על האם המודל יודע לתת את התשובה הנכונה? אבל מה לגבי אמינות? דיוק ואמינות אינם אותו דבר, וכמעט איש לא בוחן את ההבדל".

לדבריה, "כשאנחנו בוחנים מה מגדיר עובד שאפשר באמת לסמוך עליו, ההגדרה איננה 'עובד שצודק רוב הזמן'. עובד טוב ואמין צודק באופן עקבי באותו הנושא, לא 'היום כן ומחר לא' (עקביות), הוא לא מתפרק כשהתנאים לא מושלמים (עמידות), הוא אומר כשהוא לא בטוח, במקום לנחש בביטחון (יכולת כיול), וגם כשהוא טעה – הטעויות שלו נוטות להיות ניתנות לתיקון, ולא הרסניות (בטיחות)".

ה-AI לא קרוב לרמת הדיוק שדורשות תעשיות קריטיות

די קסטרו ציינה כי "ארווינד נריינן, פרופסור למדעי המחשב באוניברסיטת פרינסטון, חקר את אמינות 14 מודלי ה-AI המובילים. הצוות שלו ביצע 500 הרצות לכל אחד מהם, לאורך שנה וחצי, וחקר את ארבעת התכונות הללו".

"התוצאה שהוא מצא הייתה שה-AI נכשלה בכולם", הוסיפה. "המודלים נתנו תשובות שונות לאותה שאלה, הביצועים שלהם נפגעו רק בגלל שינוי ניסוח ורוב המודלים לא הצליחו לזהות אם הם צודקים או טועים. בתעשיות כמו אווירונאוטיקה, אנרגיה גרעינית והנדסת רכב אין להתפשר על אמינות. אסור לקבוע יעד שתקרה שגיאה קטסטרופלית פעם אחת במיליארד ניסיונות. ה-AI של היום אפילו לא קרוב לשם. והאמינות? זו נשארת נחלתם של בני האדם".

מי יותר חכם – סוכן ה-AI או ניוטון? צילום: ג'מיני

סוכן ה-AI איננו ניוטון

"מתי בפעם האחרונה יצאת לטיול וראית סוכן AI משתזף בשמש?", שאלה די קסטרו, והשיבה שאף פעם. "זוכרים איך אייזק ניוטון גילה את כוח הכבידה? לא מפני שהייתה לו גישה למידע אדיר. הוא ישן את שנת הצהריים שלו כשהתפוח המפורסם נפל על ראשו. לא מדובר בזיהוי תבניות – אלא בגילוי מרהיב, שנולד כשמוח סקרן פוגש חוויה אמיתית. ל-AI אין את זה. היא מצליחה לייצר התקדמות רק מממצאים קיימים, אין לה יכולת להעלות השערות מקוריות, והיא לא תצליח לזהות חריגות בתוצאות של ניסוי".

"ה-AI לא חיה. נקודה"

"הבינה המלאכותית לא חיה בינינו. היא לא חיה. נקודה", סיכמה די קסטרו. "לכן, היא לא מרגישה, לעולם לא תחווה סקרנות והיצירתיות שלה מוגבלת ביותר. אנחנו זקוקים לבני אדם כדי לגלות מינים חדשים, לזהות דפוסים חריגים ולחוות את העולם שלנו, שלא מפסיק להשתנות".