מירוץ החימוש בבינה מלאכותית טומן בחובו סכנות משמעותיות

"הסרט 'שליחות קטלנית' יצא לאור לפני 42 שנה, באוקטובר 1984. במותחן המדע הבדיוני הזה שרה קונור מגלה שהיא יעד לחיסול בידי סייבורג־מתנקש ששב בזמן מ־2029, כדי למנוע ממנה להוליד בעתיד את מנהיג האנושות במלחמה נגד בינה מלאכותית שתשתלט על העולם", אמר גיא מזרחי, מנכ"ל CyPros. "התרחיש המתואר בסרט הוא מטריד לא מעט. אלא שלצערי, המרחק בין עלילת הסרט והמציאות בת ימינו אינו רב".

מזרחי דיבר בפתח פורום CSC מבית אנשים ומחשבים, שנערך ביס פלאנט ראשון לציון. את המפגש הנחה יהודה קונפורטס, העורך הראשי של הקבוצה. מזרחי משמש גם יו"ר ועדת התכנים של הפורום.

חוקי אסימוב מול המציאות

מזרחי הזכיר את שלושת חוקי הרובוטיקה שניסח הסופר אייזק אסימוב. החוק הראשון קובע שרובוט אינו רשאי לפגוע באדם, ואף צריך למנוע פגיעה בו; השני מחייב אותו לציית להוראות בני אדם כל עוד הן אינן סותרות את החוק הראשון; והשלישי מחייב אותו להגן על קיומו, כל עוד הדבר אינו מתנגש בשני החוקים האחרים.

"אבל במציאות, חוקי אסימוב אינם תופסים", אמר מזרחי. "לא רחוק היום שבו רובוט יעשה מעשה אסור, מסוכן ופוגעני".

לדבריו, השילוב בין רובוטיקה לבינה מלאכותית צפוי לצמצם במהירות את הפער בין הציפיות ממכונות לבין היכולת שלהן לפעול באופן עצמאי.

"אפשר לייצר רובוט דמוי אדם, ובהנחה שיש לו בינה מלאכותית, הוא יוכל לעשות פעולות רבות, מזיהוי פנים ועד תנועה במרחב", אמר. "הוא ידבר, יבין את בן שיחו, יעבוד במשך זמן רב בלי להתעייף, והפער בין הציפיות שלנו ממנו לבין יכולותיו יצטמצם בתוך שנים מעטות".

כשהבעיה עוברת מהעולם הדיגיטלי לעולם הפיזי

מזרחי הזהיר כי הבעיה אינה מסתכמת בכך שמערכות בינה מלאכותית עלולות לקבל החלטות שגויות.

"יש לא מעט בעיות עם רובוט מבוסס בינה מלאכותית", אמר. "הם עלולים לפעול באופן עצמאי, תוך התעלמות מהנחיות בן האנוש המפעיל אותם. היו מקרים של מניפולציות על רובוטים ועל מערכות בינה מלאכותית, יש בעיית אמינות, ואתגרי האנרגיה טרם נפתרו. הסוללות הן עקב אכילס של חיינו".

לדבריו, כאשר מערכת אוטונומית יכולה להשפיע גם על העולם הפיזי, ההשלכות של כשל או תקיפה עלולות להיות משמעותיות הרבה יותר.

"האתגרים בעולם הרובוטים המבוססים על בינה מלאכותית הם רבים", אמר. "יש חשש מפעולות מסכנות חיים, כמו פתיחת סכרים או הפסקות חשמל, לצד היכולת לעבור מהעולם הלוגי לעולם הקינטי. יש להבין שמדובר בסיכון משמעותי, ומירוץ החימוש בעולמות הסייבר והבינה המלאכותית מהווה סיכון משמעותי".

מירוץ חימוש שעובר גם לרובוטים

החשש שמציג מזרחי משתלב במגמה רחבה יותר של חיבור בין מערכות בינה מלאכותית לבין מכונות ורובוטים שמסוגלים לבצע פעולות בעולם הפיזי.

מערכות כאלה עשויות לשפר בטיחות ופרודוקטיביות, אך הן גם מרחיבות את משטח התקיפה. ככל שמערכת מקבלת יותר הרשאות, חיישנים, יכולת תנועה וגישה לתשתיות, כך עולה גם החשיבות של בקרה, הרשאות והגבלת האוטונומיה שלה.

"הרובוטים כבר הפרו את חוקי אסימוב", סיכם מזרחי. "כעת נותר רק לבחון מתי, ובתוך כמה שנים בודדות, יתרחשו הפרות נוספות של החוקים הללו בהתבסס על בינה מלאכותית".