שדה הקרב העתידי כבר כאן? הרובוטים נכנסים למלחמה

עד כמה אנחנו רחוקים משדה קרב עתידי שבו רובוטים אוטונומיים וכלים המופעלים מרחוק נלחמים ברובוטים של האויב – לבדם או לצד לוחמים אנושיים? זו הייתה אחת השאלות המרכזיות שנדונו בפאנל "ביטחון ו-Physical AI: רובוטים בשדה הקרב – שליחות קטלנית כבר כאן?", שנערך בשבוע שעבר בהנחיית תא"ל (מיל') נתי כהן, ראש מערך הדיגיטל הלאומי.

הפאנל נערך במסגרת כנס ה־Physical AI הראשון והגדול מסוגו, שהתקיים באולם האירועים של מלון דיוויד אינטרקונטיננטל בתל אביב, בהפקת אנשים ומחשבים.

כהן ציין, כי אחד השינויים הבולטים שהתרחשו מאז תחילת הלחימה בעזה הוא ההתפתחות המהירה של מערכות בלתי מאוישות בצה"ל. "אחד הדברים הבולטים שאירעו במהלך תחילת הלחימה בעזה היה שהצבא, תוך כדי לחימה, עשה בניין כוח מטורף במערכות בלתי מאוישות", אמר. "האתגר היה לקשור את הכלים האוטונומיים למפעילים מאחור וליצור דינמיקה בלחימה. השאלה היא עד כמה הכלים האוטונומיים, עם מפעילי AI, ממחישים כבר ששדה הקרב העתידי הוא בעצם כאן".

הטכנולוגיה כבר כאן

אורי אברהם, מנכ"ל ומייסד עוז, סבור שהטכנולוגיה עצמה כבר הגיעה לנקודה שבה היא מסוגלת לממש חלק גדול מהחזון. "אני לגמרי מאמין, שיכולות הקצה של הטכנולוגיה, בין אם מדובר במודלים או ברכיבים, כל אחד בנפרד, כבר לגמרי כאן", אמר. "אבל מה שחסר זו התשתית, כולל סף האבטחה והחסמים שימנעו אסונות".

בהתייחס לאפשרות שרובוט יפעל באופן בלתי צפוי, אמר אברהם, כי מערכות מבצעיות עדיין לא נבחנות בקנה מידה שמאפשר לענות על כל השאלות. "לשמחתי הרבה, במערכת מבצעית זה עוד לא קרה לנו, אבל המערכות בשטח עוד לא עשו את זה בקנה מידה גדול. חייבים להיות כמה מנגנונים בלתי תלויים שיאפשרו הגנה. הרגולציה קיימת בתחום הביטחוני, ובוודאי בהיבט של בניין הכוח. אנחנו עדיין בהתפתחות. שלא יישמע שסיימנו – ממש לא. אבל אלה דברים שקורים בשבועות ולא בשנים".

עדיין מוקדם

ד"ר לירן ענתבי, סמנכ"לית אסטרטגיה ומדיניות AI ב-שיפטרס, הציגה עמדה זהירה יותר. לדבריה, לפחות מנקודת מבט ישראלית, עדיין מוקדם לומר שהגענו לשדה הקרב שבו רובוטים אוטונומיים משתלבים באופן מלא בלחימה.

"אנחנו עוד ממש לא שם, ובטח שלא מיצינו את כל מה שאפשר לעשות כדי להגיע למצב שבו רובוטים אוטונומיים משתלבים בשדה הקרב", אמרה. "יש עוד הרבה מאוד להשיג וצריך לעשות עוד הרבה בפיתוח. נכון לדבר על השארת האדם מעל לולאת ההחלטה, אבל צריך להתייחס גם לקצב שבו האירועים מתרחשים. ויותר חשוב, במיוחד מבחינת התעשייה שצריכה לספק פתרונות, למצוא כיוונים חדשים. אנחנו רואים את זה, למשל, במה שקורה באוקראינה".

מענה גם לאבטחת הסביבה

מנגד, אוהד פלוטניק, מנכ"ל AirEye, סבור, שההתקרבות לעידן הזה כבר מתרחשת בשטח. "גילינו את זה מתוך השטח, ממש מהכוחות. פתאום ראינו שאנחנו שם", אמר. לדבריו, בשטח כבר פועלות מערכות קריטיות, ולצידן נבנות במהירות התשתיות התקשורתיות והתפעוליות הדרושות להפעלתן.

פלוטניק הדגיש כי לצד פיתוח הכלים עצמם יש צורך לתת מענה גם לאבטחת הסביבה שבה הם פועלים. "אנחנו לומדים שצריך לשלב גם פתרונות סייבר כדי לתת מענה, כדי שזה לא יתהפך אלינו", אמר. "אנחנו מסתכלים על אבטחה קלאסית כמו בארגון רגיל, אבל האיום הוא לא בהכרח תקיפת הרובוט עצמו, אלא תקיפה של השכבה האווירית שסביבו. אם הרובוט מסתמך על הסביבה הזו, ואני יודע לעשות לו מניפולציה שתטעה אותו – זו נקודה שחייבים להתייחס אליה, כי אנחנו אולי בונים מהר מדי".

שליטה אפקטיבית

תום שייפר, סגן נשיא של Hivemind Enterprise ב-Shield AI, אמר, כי אחד האתגרים המרכזיים הוא להבטיח שליטה אפקטיבית ברובוטים ובמערכות האוטונומיות. עם זאת, לדעתו, הטכנולוגיה עצמה כבר בשלה במידה רבה. "הטכנולוגיה לדעתי כבר ממש שם", אמר. "אבל בכל רגע צריך להעריך באיזו נקודה המערכות יוכלו לפעול מחוץ לסביבת הפקודות שנותנים להן".

לדבריו, הבדיקה צריכה להתחיל כבר בתהליך הפיתוח והאימון. "אתה חייב להעריך את המידע שבו אתה משתמש כדי לאמן את הרובוטים, את ההדמיות שבהן משתמשים כדי לבצע בדיקות, ויותר חשוב – גם בנקודת הקצה לבצע בדיקות. צריכים להשתמש במערכות לימוד ואימון מקצה לקצה, עם אדם בלולאה, כדי לבדוק אם המערכת יכולה לקבל החלטה, ובמקביל לקבוע עבורה אמצעי אבטחה לשימוש בזמן אמת".

קווים אדומים ברורים

אל"מ (מיל') ירון שריג, ראש מינהלת AI ואוטונומיה במפא"ת במשרד הביטחון, הדגיש, כי מהבחינה הביטחונית קיימים קווים אדומים ברורים בכל הקשור להפעלת מערכות אוטונומיות. "אנחנו מסתכלים על התהליכים האוטונומיים עם קווים אדומים מוגדרים היטב", אמר. "זה נכון במיוחד כי זה תמיד נוגע לחיי אדם. זה חלק מהרוח והמוסר שלנו כצה"ל וחלק מהאחריות. אנחנו נאפשר טכנולוגית את המיטב בלי לסכן חיי אדם".

שריג הדגיש, כי בסופו של דבר ההחלטה נותרת בידי המפקד. "הקו האדום נובע מהחלטה פיקודית. המפקד הוא הגורם היחיד שיכול להחליט, והאחריות היא שלו לגבי השילוב של כלים אוטונומיים. עם זאת, צריך לתת לו כלים שיאפשרו לקבל החלטה פשוטה יותר".

האדם במרכז קבלת ההחלטות

גם ד"ר יהודית הוכרמן־פרומר, מהנדסת ראשית ומנהלת טכנולוגיה ראשית באונדס, הדגישה את הצורך להשאיר את האדם במרכז קבלת ההחלטות – גם כאשר יותר ויותר משימות עוברות למערכות רובוטיות. "רובוטים יכולים ללכת לפני כוח, לפתוח נתיב ולסייע בפינוי מטענים, וזה משמעותי מאוד", אמרה. "אבל צריך להבין שהאדם הוא מעל הלולאה. האדם מנהל את המשימה. יש לנו יכולת להביא אוטונומיה ורובוטיקה, אבל במשימה הכוללת האדם צריך להיות זה שיאשר ויפעיל את הכלים".

לדבריה, האתגר הבא יהיה היכולת לנהל במקביל מספר רב של מערכות אוטונומיות. "אנחנו פועלים כדי לעשות את אותו תזמור ויכולת ניהול של כלים אוטונומיים רבים, אבל רק כשאדם מעורב, בוחן ומחליט. אולי צריך ליצור תפקיד חדש של ארכיטקט AI בשדה הקרב, כי זה גורם מפתח שמאפשר קישוריות ומאפשר לבצע בקנה מידה גדול, במסות".

הפאנל המחיש היטב את הפער שבין היכולת הטכנולוגית לבין היכולת להפעיל אותה באופן מבצעי, בטוח ומבוקר. בעוד שחלק מהמשתתפים סבורים שהטכנולוגיה כבר נמצאת בשדה הקרב, אחרים מדגישים כי הדרך למערכות אוטונומיות שיקבלו החלטות באופן עצמאי עדיין ארוכה.

דבר אחד, עם זאת, נראה שכבר ברור: המלחמה העתידית לא תחכה עד שהטכנולוגיה תהיה מושלמת. היא מתפתחת תוך כדי הלחימה – והשאלה המרכזית היא לא רק מה הרובוטים יוכלו לעשות, אלא מי יישאר אחראי כאשר הם יעשו זאת.