צבא ארה"ב יטמיע AI של שבע חברות ענק ברשתות המסווגות שלו

הפנטגון הגיע להסכמים עם שבע ענקיות טכנולוגיה לשימוש בבינה מלאכותית ברשתות המחשבים המסווגות שלו – כך הודיע משרד המלחמה האמריקני בסוף השבוע. החברות הללו הן: גוגל, OpenAI, מיקרוסופט, AWS, אנבידיה, SpaceX ו-Reflection. לפי הפנטגון, המהלך יאפשר לצבא לנצל יכולות מבוססות AI כדי לסייע לו במלחמות.

שבע הענקיות יספקו לצבא את המשאבים שלהן כדי "לסייע לחזק את קבלת ההחלטות של הלוחמים בסביבות מבצעיות מורכבות".

חברה שבולטת בהיעדרה מהרשימה היא אנת'רופיק, שמנהלת בימים אלה מאבק משפטי וציבורי עם ממשל טראמפ בנוגע לאתיקה ובטיחות השימוש ב-AI בשדה הקרב. הממשל מעוניין להשתמש במודל שלה, מיתוס, שאותו החברה שחררה לפני כחודש לכמה חברות נבחרות, אך לא לציבור הרחב, בטענה כי מדובר במודל "מסוכן מדי". בינתיים, הממשל הלך כברת דרך מסוימת לקראת אנת'רופיק, והצדדים עדיין מנהלים משא ומתן. OpenAI הודיעה במרץ על הסכם עם הפנטגון, שלפיו היא תחליף את קלוד של אנת'רופיק ב-ChatGPT בסביבות מסווגות.

המהלך הוא חלק מגל ההאצה של שימוש בבינה המלאכותית בעולם, כולל בקרב צבאות וארגונים מהמגזר הביטחוני. הטכנולוגיה יכולה לסייע לצבא לצמצם את הזמן לזיהוי ולתקיפה של מטרות בשדה הקרב (Sensor2Shooter). לצד התועלת המבצעית, השימוש ב-AI מסייע לצבאות גם בתחזוקת נשק וקווי אספקה.

שימוש ב-AI והביקורת על ישראל

השימוש ב-AI בקרב צבאות כבר העלה חששות לפגיעה בפרטיות של אזרחים, או לכניסה למצב שבו המכונות הן שבוחרות את המטרות בשדה הקרב. חששות שכאלה עלו במהלך המלחמה של ישראל נגד החמאס והחיזבאללה. כך, בעקבות תחקיר שערך בשנה שעברה הגרדיאן, בשיתוף שיחה מקומית ו-972+, הודיעה מיקרוסופט ליחידה 8200 של צה"ל כי הפסיקה את הגישה של אנשיה לטכנולוגיות שלה. זאת, לאחר שעלה בתחקיר שהיחידה הפרה את תנאי השימוש כשאחסנה ביג דאטה, בהיקף עצום, ובו נתוני מעקב אחר פלסטינים, שעברו עיבוד בענן הציבורי שלה, Azure. לפי פרסומים זרים, ימים ספורים לאחר פרסום התחקיר, 8200 העבירה במהירות את המידע המודיעיני שלה מחוץ לדאטה סנטר של מיקרוסופט בהולנד. לפי פרסומים זרים אחרים, היחידה המשיכה לעשות שימוש ביכולות ה-AI של אחת משלושת ספקיות הענן הגדולות גם לאחר מכן. חשש אחר נגע לתלות של ישראל בתשתיות ובשירותים של חברות טק אמריקניות. עוד דאגה הובעה בשל תופעה שנקראת "הטיית אוטומציה", שבה אנשים נוטים להניח שמכונות פועלות טוב יותר ממה שהן באמת.

ככלל, בינה מלאכותית שמופעלת על גבי ענן ציבורי לטובת ניתוח מידע מודיעיני רחב היקף מעניקה יכולות עוצמתיות בשלל פעולות – יירוט, תמלול, תרגום וניתוח של מיליוני שיחות טלפון והודעות טקסט. הזינוק בהיקף ההרוגים בעזה הגביר חששות שכלי AI תרמו למותם של אנשים חפים מפשע.

פיקוח אנושי על הפעילות של ה-AI

מקור הבקיא בהסכמי הפטנגון עם שבע החברות אמר לסוכנות AP כי ההסכם כלל הנחיה שלפיה צריך להיות פיקוח אנושי על כל משימה שבה מערכות ה-AI פועלות באופן אוטונומי או חצי אוטונומי. הוא הוסיף שבהסכם נקבע שכלי הבינה המלאכותית חייבים לפעול בצורות שתואמות את זכויות הפרט ואת החוקה האמריקנית.

אמיל מייקל, סמנכ"ל הטכנולוגיה של הפנטגון, אמר ל-CNBC כי "זה לא היה מהלך אחראי להסתמך רק על חברה אחת. כשגילינו שאחד השותפים לא באמת רוצה לעבוד איתנו כפי שאנחנו רוצים, יצאנו למהלך עבודה עם כמה ספקים שונים".

הפנטגון מסר בסוף השבוע שהצבא כבר משתמש ביכולות הבינה המלאכותית שלו, דרך הפלטפורמה הרשמית GenAI.mil.