צה"ל יצר כלי דמוי ChatGPT עוצמתי

חיילי יחידה 8200 בנו מודל שפה גדול, דמוי ChatGPT, המהדק את המעקב על הפלסטינים בשטחים ומנתח "כמויות פסיכיות" של מידע מודיעיני – שיחות טלפוניות והודעות טקסט – לטובת בנייה של מודל שפה בערבית מדוברת; כך עולה מתחקיר המשותף לגארדיאן הבריטי ולאתרים +972 ושיחה מקומית.

הפרויקט החל בנובמבר 2022, עם הנגשת מודל השפה של  ChatGPT בראשונה לציבור. לפי התחקיר, בעוד מודלי שפה גדולים אזרחיים, דוגמת ChatGPT, אומנו על בסיס טקסטים מהאינטרנט, הרי שהכלי החדש ניזון מביג דאטה שמקורה במידע מודיעיני. מקור ביטחוני אמר, כי המודל החדש מאומן על 100 מיליארד מילים בערבית מדוברת. המודל שנכתב מסייע לצוותי המודיעין בצה"ל לבנות רשימות חשודים, לעבד מידע, לקבל תשובות שהמענה שלהן מבוזר בין כמה מקורות מידע, ובעיקר – למצוא מידע לא באמצעות חיפוש – אלא לקבל תשובות לשאלות.

השימוש במידע מעלה סוגיות מוסריות: "מדובר במידע אישי מאוד, שנלקח מאנשים שאינם חשודים בפלילים כדי לאמן כלי שלאחר מכן יוכל לעזור לבסס חשד", אמר זאק קמפבל, חוקר טכנולוגיה בכיר בארגון Human Rights Watch. גורם אחר צוטט כאומר: "זו לא רק פגיעה בפרטיות… בינה מלאכותית מגדילה כוח ומאפשרת לפעול על מידע של הרבה יותר אנשים, וכך לשלוט באופן הדוק יותר באוכלוסייה ולעקוב אחר כל תחום בחיי התושבים". מומחה אחר הסביר, שהסתמכות עיוורת על מודלים שכאלה עלולה להוביל לטעויות, לקבלת תשובות לא הגיוניות ולהזיות. כך, פלסטינים חפים מפשע עלולים להיות מופללים, בשל אותן טעויות AI.

עוד עלה בתחקיר, כי המודל הגדול המפותח, עושה שימוש גם בשיחות יומיומיות בלא ערך מודיעיני – אבל הוא מועיל לאימון המודל, כי אין כמעט דאטה באינטרנט בערבית מדוברת. זאת, בעוד המודלים הקיימים הצליחו לעבד מידע רק בערבית ספרותית ולא בזו המדוברת.

אחרי אסון ה-7 באוקטובר, מומחים ישראלים לתחום מודלי שפה, העובדים בענקיות טק כגון מטא, גוגל, מיקרוסופט, כמו גם 21AI הישראלית, בין השאר – התגייסו למילואים ב-8200 והשתתפו בפרויקט. כך, היחידה הפכה למומחית בתחום, לאחר שהקימה ורכשה חוות שרתים לשם אימונים של מודל השפה.

דובר צה"ל מסר בתגובה לשיחה מקומית, כי "צה"ל פועל במגוון שיטות וכלים מודיעיניים לאיתור ובלימת פעילות טרור של ארגונים עוינים במזרח התיכון. בשל רגישות המידע, לא ניתן לפרט על אמצעים ושיטות ספציפיים, כולל תהליכי עיבוד המידע. כל שימוש בכלים טכנולוגיים נעשה תוך תהליך קפדני בהובלת אנשי מקצוע, במטרה להבטיח דיוק מירבי של המידע המודיעיני".

מגוגל נמסר, כי "יש לנו עובדים שעושים שירות מילואים במדינות שונות ברחבי העולם. העבודה שעובדים אלה עושים כאנשי מילואים אינה קשורה לגוגל". ממטא וממיקרוסופט לא נמסרה תגובה.