"AI זה לא קסם, גם לא בצה"ל"

"מערכות ה-IT בצבא, שמשולבות בהן יכולות בינה מלאכותית, הן לא קסם. AI זו לא מערכת שיכולה להחליף, ושתחליף, בני אנוש. זוהי מערכת סוציו-טכנית, שבה אנשים ואלגוריתמים פועלים יחד", כך אמרה לאנשים ומחשבים ד"ר גלית ולנר, מרצה בבית הספר ללימודים רב תחומיים ב-HIT – המכון הטכנולוגי חולון.

ד"ר ולנר דיברה על רקע ועדת החקירה הממלכתית, שהממשלה מתנגדת להקמתה ושספק רב אם תוקם, והפרסום של צה"ל ביום ה' בערב את ממצאי 18 התחקירים הצבאיים על מחדל וטבח ה-7 באוקטובר. התחקירים מצאו כשלים חמורים, ביניהם הפתעה והיעדר התרעה מודיעינית למול הונאה רב שכבתית, אסטרטגית, טקטית ומבצעית בת שנים של החמאס, קיבעון בקונספציה, מימוש מדיניות של "ניהול הסכסוך" ושימור המציאות הקיימת לטובת שקט, והבנה שגויה שלפיה החמאס לא מעוניין במלחמה רחבת היקף, ישראל גוברת ותגבור על אויביה, והחמאס נחות. עוד סייעו לתחושת הביטחון השגויה ולקיבעון המכשול התת קרקעי והעילי הגדול בגבול עזה והמחשבה, המוטעית גם היא, שלפיה המודיעין הישראלי יודע ומכיר את תוכניות הפעולה והלך המחשבה של החמאס.

בתחקיר שערכה חטיבת המחקר של אמ"ן נכתב בסעיף "מה גרם לכישלון" כי "הייתה אשליה של ודאות. הייתה תפיסה שגויה של עליונות מודיעינית, שנובעת מההתקדמות הטכנולוגית. (כך) נוצרה תחושה כוזבת, שלפיה אין אפשרות שהאויב יוצר הונאה, כי הטכנולוגיה הופכת אותו לשקוף".

היה צריך להכניס מערכות AI גם לחיזוי המצב, אבל…

לדברי ד"ר ולנר, "גם אם צה"ל, למשל, היה בונה תהליך שבסופו התצפיתניות היו מוחלפות באלגוריתמים, עדיין יש, בסוף התהליך, בן אנוש שמקבל את הנתונים ונדרש להחליט 'האם עומדת להיות מלחמה?'. הכשל, לצערי, היה קורה גם אז, כשהן היו מוחלפות במערכות משוכללות". לכן, הסבירה, "היה צריך לערוך שינוי ולהכניס מערכות מבוססות AI. זה היה יכול לסייע בהתמודדות עם המחסור בכוח אדם. אבל, וזה אבל גדול, כשמכניסים מערכות שכאלה, יש להבין כמה היבטים: את ההקשר שבו הן פועלות; מה התוצר שהן נותנות; והאם ההתרעה אכן מגיעה ליעדה? אולי כדאי, במקום להתריע 'עומדת להיות מלחמה' – להציע סיכויי הסתברות באחוזים למלחמה. האם נעשתה הצלבה עם מקורות ופרטי מידע נוספים, למשל 'מחבלים פשטו על משטרת שדרות?'. אני מצפה מהשילוב של מערכות ובני אנוש שתהיה מסוגלות לעשות כמה דברים: לחשוב בצורה ביקורתית, לזהות התראות שווא וכשאין התראות – לא להבין ש-'הכול סבבה' אלא לשאול למה הן לא קיימות. למשל, כי כיבו את בלוני ההתראה".

"לצערי, יכולות אלה, של חשיבה ביקורתית, לא מגיעות באופן טבעי ואוטומטי", אמרה ד"ר ולנר. "אני רואה כמה השקעה נדרשת באקדמיה כדי לפתח חשיבה ביקורתית זו בקרב סטודנטים, וכך גם יש להשקיע בצבא על מנת לפתח את החשיבה הביקורתית. יש לחנך את לקוחות ה-AI – החיילים, הקצינים ושאר המשתמשים בצה"ל – להפנים שלא מדובר בפתרון קסם, בתרופה לכל דבר – אלא במשהו שעובד יחד איתנו, כי AI זה 'משהו' שגם טועה".

"אסור שה-AI תיצור אשליה שהיא מחליפה אנשים"

ד"ר ולנר הזהירה כי "אסור שהבינה המלאכותית תיצור אשליה שהיא מחליפה אנשים. היא רק מאפשרת לאנשים לעשות יותר ולחשוב יותר. אם היא מחליפה בני אנוש, היא תחליף גרוע".

לסיכום היא אמרה כי "הבינה המלאכותית היא מערכת סוציו-טכנית ומשכך, יש מערך אנושי שלם סביב מערכות ה-IT. היא צריכה להיות חלק מ-'מוסד' במובנו הסוציולוגי, שכולל שניים ואף שלושה צוותי 'איפכא מסתברא', שיכולים להיעזר בה אבל חייבים לייצר בעצמם, ובעזרתה, חשיבה ופרשנות רעננות, שונות ואחרות. הבינה המלאכותית תחסוך משאבי כוח אדם ותעניק עוד יכולות לכוח האדם הקיים, ושהם יעסקו בדברים החשובים יותר. כך, בני האנוש יוכלו לחשוב אחרת, עם רמת תחכום גבוהה יותר – ולפעול באופן יעיל יותר".