"למרבה הצער, ישראל מפגרת יחסית לעולם בחזית ה-AI"

כנס AI&BEYOND Robotics, שאורגן על ידי Tech.AI – שלוחה של המרכז לבינה מלאכותית בטכניון – התקיים היום בפקולטה להנדסת חשמל ומחשבים ע"ש ויטרבי בטכניון שבחיפה. הכנס נועד על מנת להפגיש מוחות מובילים מהאקדמיה והתעשייה, במטרה לקדם מחקר ופיתוח בכל הכרוך בממשק שבין בינה מלאכותית לרובוטיקה.

הכנס עסק בחיבור בין מהפכת ה-AI לעולם הרובוטיקה – תחומים שמשנים כיום את דפוסי העבודה והחיים. באירוע לקחו חלק חוקרים, אנשי תעשייה ומומחים בתחומי ה-AI והרובוטיקה מישראל ומהעולם.

פרופ' אורי סיון, נשיא הטכניון, נשא דברים בפתיחת כנס AI&BEYOND Robotics. צילום: ניצן זוהר, דוברות הטכניון.

קריאה לפעולה מיידית לקידום ה-AI בישראל

פרופ' אורי סיון, נשיא הטכניון, נשא דברים בפתיחת הכנס ובהם קרא לשיתוף פעולה הדוק בין האקדמיה לתעשייה בתחומים האמורים. הוא ציין כי הטכניון, כמוסד מוביל, פועל בחזית ההתפתחויות בתחום ה-AI והרובוטיקה, והדגיש עם זאת כי "הקו המפריד המסורתי בין מחקר בסיסי באוניברסיטה למחקר יישומי בתעשייה כבר אינו רלוונטי ועלינו למקם את הטכניון מחדש בהקשר זה". נשיא הטכניון הוסיף וציין כי תחום הרובוטיקה וה-AI הוא "אזור מצוין לשיתוף פעולה" בין גורמים בתעשייה לאקדמיה, שחורג מעבר לפרויקטים מחקריים משותפים. סיון תיאר את שיתוף הפעולה הרצוי כ"סוג של אוסמוזה" – כלומר, שילוב עמוק והשפעה הדדית בין שני הגופים, מעבר למה שהתקיים בין השניים עד כה. 

ועל אף שמהכנס ניתן היה ללמוד עד כמה עשירה פעילות הטכניון בתחומים החדשניים, פרופ' סיון התייחס מנגד בדבריו לחוסר המוכנות של ישראל בעולמות ה-AI ואמר כי המדינה מפגרת, לצערו, במירוץ הבינה המלאכותית שהעולם שרוי בו. הוא ציין ספציפית את החובה להמריץ הקמת תשתיות מתאימות וקרא לממשלת ישראל להשקיע משאבים משמעותיים בבניית תשתיות פיזיות גדולות מספיק ובהכשרת מומחים שיוכלו לתת גישה ליכולות ה-AI גם למי שאינם אנשי מקצוע בתחום.

"יש צורך בגוף מומחים שיוכל להיות מתווך בין מה שהבינה המלאכותית יכולה לספק לבין אותם מקצועות שבהם רוב האנשים אינם אנשי מקצוע בתחום ה-AI, לפחות בשלב זה", הצהיר.

פרופ' סיון הדגיש את הפוטנציאל של הבינה המלאכותית גם מחוץ למחקר ייעודי, ואת האפשרויות שהיא פותחת בתחומים כמו בריאות, הנדסה אזרחית, אדריכלות ומדעי החברה. כמו כן הוא ציין כי הטכניון עומד לסיים בניית בניין חדש שיכלול כוח מחשוב משמעותי, שיוכל לעמוד לטובת מחקר בתחום, אך אמר: "ברור שנזדקק ליותר", בהתייחס לסיוע שהטכניון מקווה לקבל מהמדינה לשם כך. בסיום דבריו קרא פרופ' סיון ישירות לתמיכה ממשלתית מוגברת וארוכת טווח, במיוחד בצוותים שיכולים לתת מענה לצורך במומחי AI.

פרופ' שלמה זילברשטיין, פרופסור באוניברסיטת מסצ'וסטס אמהרסט. צילום: ניצן זוהר, דוברות הטכניון.

מערכות בינה מלאכותית ורובוטיקה מודעות ליכולותיהן

פרופ' שלמה זילברשטיין, בוגר הטכניון שכיום מכהן כפרופסור באוניברסיטת מסצ'וסטס אמהרסט, דיבר באירוע על חשיבות פיתוח מערכות AI ורובוטיקה המודעות ליכולותיהן ולמגבלותיהן, וכיצד מודעות זו משפרת את הבטיחות והיעילות של מערכות אלו. לדבריו, מערכות AI צריכות לפתח הבנה של מגבלותיהן, כמו גם של היכולות שלהן, כדי לפעול בבטחה וביעילות.

הפרופ' הסביר כי השגת יכולת גבוהה של מערכות AI ורובוטיקה הפועלות בעולם האמיתי היא קשה, בין היתר בשל ביצועים משתנים של שיטות AI שונות ובשל "מקרים קיצוניים", שבהם הביצועים יורדים. הוא ציין כי השיטות המסורתיות של פיתוח מערכת, בדיקתה במעבדה ובדיקות שטח נוספות, אינן מספיקות כדי להיות בטוחים לחלוטין, כשמדובר בבינה מלאכותית. זילברשטיין דיבר על הצורך לפיתוח מערכות AI עם "מודעות לכישוריהן" (Competence awareness) והדגיש כי במקום ללמד את המערכת לעשות הכל, "אנחנו צריכים ללמד אותה לדעת מתי לבקש עזרה ולשמור על מצב בטוח, במקום להמשיך ולנסות לעשות את מה שהיא מנסה לעשות".

הוא נתן כדוגמה את תחום הרובוטיקה, ובפרט רובוטים כירורגיים, ואמר כי לא תמיד ברור מה למדו הרובוטים כיצד הם יפעלו במצבים שונים. הפרופ' הרחיב על המושג "מודעות ליכולת" בהתייחסו אל אותו "ביטחון עצמי" שיש לפתח לדבריו במודלי ה-AI, דווקא על מנת שהוא יעניק להן את המוטיבציה לרצות לשפר בטיחות, אמינות, יעילות וכדומה על ידי הודאה בצורך בעזרה. טכניקות אלו, כך אמר, רלוונטיות גם ללמידת יכולות של אחרים, למשל בתקשורת בין רובוטים שפותחו בידי חברות שונות ועובדים יחד.

פרופ' זילברשטיין הבחין בין שני סוגים של מערכות: מערכות שמטרתן לחקור יכולות כדי לשפר את עצמן, ומערכות המודעות לנוכחות אנושית ומסתמכות עליה, כאלו שיכולות לבקש סיוע מאנשים. הוא הציג דוגמאות של מערכות קבלת החלטות ברובוטיקה וב-AI שבהן ההחלטה המרכזית היא מתי להפסיק לחשוב ולפעול. לדבריו, רוב בעיות ה-AI נפתרות בצורה מקורבת ולא בצורה אופטימלית, ולכן חשוב שהמערכות יוכלו לעקוב אחר ההתקדמות שלהן ולהחליט מתי הפתרון מספיק טוב. הוא הוסיף והסביר כי אלגוריתמים צריכים להיות מסוגלים להתאים את עצמם לבעיה הספציפית שהם פותרים, ולא להסתמך על פרמטרים קבועים. לדבריו, יש נקודה שבה עלות העיכוב בפעולה, כשה-AI נתקעת ומתעקשת לחפש פתרון בכל המחיר, גדולה מהתועלת של שיפור הפתרון. זילברשטיין הסביר כיצד ניתן לתכנן אלגוריתם שנותן סדרת פתרונות המשתפרים עם הזמן, ומאפשר למערכת להחליט מתי הפתרון טוב מספיק.

בנוגע למערכות בינה מלאכותית המודעות לנוכחות האנושית טען הפרופ' כי רוב המערכות הרובוטיות שאנו מפתחים הן למעשה "חצי אוטונומיות", וטען כי יש להפחית בהדרגה את התלות שלהן בבני אדם. עם זאת הוא הדגיש כי הצורך בהגבלת האוטונומיה כיום אינו נובע רק ממגבלות טכניות, אלא גם מאילוצים אתיים וחוקיים. פרופ' זילברשטיין דיבר על רמות שונות של אוטונומיה, מ"ללא אוטונומיה כלל" ועד "אוטונומיה לא מפוקחת", והסביר כי מערכות צריכות להתחיל מרמה נמוכה של אוטונומיה, תוך שיפור מודל הביטחון העצמי שלהן, מה שיוכל לסייע להעניק להן את אותה אוטונומיה גדלה ומתרחבת.

לסיום הדגיש פרופ' זילברשטיין כי אי-הכללת מודעות ליכולת במערכות אוטונומיות עלולה להוביל לחוסר יכולת שלהן להתמודד עם מצבים בלתי צפויים בצורה בטוחה, וגם ליצירת תלות מהסוג הלא נכון בבני האדם.

בנוסף לדבריהם של פרופ' סיון ופרופ' זילברשטיין, המושבים בכנס עסקו בשורת נושאים נוספים, בהם ההבטחות והסכנות בתחבורה האוטונומית, התנהגות נאותה בקרב סוכנים אוטונומיים, תכנון בתנאי אי-ודאות ורובוטים בשירות הכירורגיה.