למרות חרם הפנטגון – ה-NSA משתמשת במודל החדש של אנת'רופיק

ה-NSA נעזרת במודל ה-AI לאיתור פרצות אבטחה, בזמן שהממשל מחשיב את החברה לגורם מסכן ביטחון והכניס אותה לרשימה השחורה שלו ● המודל מציג יכולות סייבר חסרות תקדים שמעוררות דאגה עולמית בקרב מומחים ומנהיגים

הסוכנות לביטחון לאומי של ארצות הברית, ה-NSA, עושה שימוש במודל הבינה המלאכותית החדש והמתקדם של חברת אנת'רופיק, המכונה 'קלוד מיתוס' (Claude Mythos), כך על פי דיווח של אתר החדשות אקסיוס (Axios). סוכנות הביון, כך נטען, רותמת את הטכנולוגיה החדשנית כדי לסרוק מערכות מחשוב ולאתר בהן חולשות אבטחה בטרם ינוצלו בידי תוקפים.

הצעד הספציפי הזה מפתיע במיוחד, שכן הוא מתרחש על אף שמחלקת ההגנה האמריקנית החרימה את החברה באופן רשמי לפני כחודש וחצי, כפי שדיווחנו בזמנו.

מה הסיפור והייחוד של 'קלוד מיתוס'?

העניין הרב סביב המערכת החדשה 'קלוד מיתוס' נובע מיכולות הסייבר יוצאות הדופן שלה. במסגרת מיזם סגור בשם "גלאסווינג" (Glasswing), אנת'רופיק העניקה גישה ל-מיתוס רק למספר מצומצם של ארגונים גדולים, כדי למנוע את זליגת הטכנולוגיה. כך נחשף כי המודל הפגין יכולת עצמאית לאתר חולשות אבטחה מסוג "יום אפס" בכל מערכות ההפעלה והדפדפנים המובילים, כולל מציאת באג שהסתתר במשך 27 שנים ב-OpenBSD – מערכת הפעלה שנבנתה במיוחד סביב אבטחה.

מכון בטיחות הבינה המלאכותית של בריטניה קבע כי מדובר במודל הראשון שמסוגל לבצע שרשרת תקיפת סייבר מלאה מתחילתה ועד סופה.

צוות הבטיחות של חברת אנת'רופיק עצמה – במסגרת הערכת בטיחות מקיפה בת 140 עמודים שפרסם – כתב בתקציר המנהלים כי 'מיתוס' מציג התנהגויות שעולות בקנה אחד עם חשיבה אינסטרומנטלית. הצוות התריע כי למרות שלא נראה שיש למודל מטרות במובן האנושי, הוא מתנהג כאילו יש לו כאלה, והחוקרים הודו כי הם כבר אינם בטוחים שביכולתם להבחין בין שני המצבים.

"הממשלה חייבת לדעת על הדברים האלה"

היכולות המהפכניות הללו עוררו בהלה גלובלית, במיוחד במגזר הפיננסי. שר האוצר האמריקני, סקוט בסנט, כינס פגישת חירום בוושינגטון עם מנכ"לי הבנקים הגדולים בארצות הברית במיוחד על מנת לדון באיום העצום שהמודל מגלם על תשתיות הבנקאות.

נשיאת הבנק המרכזי האירופי, כריסטין לגארד, הזהירה כי טכנולוגיה כזו עלולה להיות "ממש רעה" אם חלילה תיפול לידיים הלא נכונות. 

נגיד הבנק המרכזי של אנגליה, אנדרו ביילי, הוסיף כי המודל "מזכיר לנו כמה מהר נע עולם הבינה המלאכותית", והגדיר את המצב כ"אתגר רציני מאוד לכולנו".

למרות הסכנות הכבדות, ג'ק קלארק, בכיר אנת'רופיק, הסביר את החלטת החברה לחשוף את המידע הרגיש לממשל באומרו כי "הממשלה חייבת לדעת על הדברים האלה".

כך או כך, החלטת ה-NSA להשתמש ב-קלוד מיתוס עומדת בסתירה מוחלטת למדיניות הרשמית של וושינגטון. כזכור דיווחנו בראשית מרץ על כך שהמשבר בין הצדדים הגיע לנקודת רתיחה, כאשר הפנטגון הכריז על אנת'רופיק כ"סיכון לשרשרת האספקה", ביטל חוזה עתק של 200 מיליון דולר מול החברה והכניס אותה לרשימה השחורה שלו. שורש העימות, לפי הדיווחים, נבע מסירובה העיקש של אנת'רופיק להסיר את מגבלות הבטיחות של מודל 'קלוד', האוסרות על שימוש בטכנולוגיה לטובת מעקב המוני נגד אזרחים או הפעלת נשק אוטונומי קטלני. ההתנגשות הפכה לגלויה בעקבות חשיפות של הוול סטריט ג'ורנל והגרדיאן, לפיהן צבא ארצות הברית השתמש במודלי החברה במהלך פשיטה בוונצואלה ללכידת הנשיא ניקולס מדורו – צעד שעורר דאגה מוסרית עמוקה בהנהלת חברת ה-AI.

בתגובה הגיב הממסד הביטחוני בחריפות למה שנתפש כניסיון של חברה פרטית להכתיב לו תנאים מוסריים. שר ההגנה, פיט הגסת', תקף את אנת'רופיק והצהיר כי הצבא לא יעסיק בינה מלאכותית שאינה מאפשרת לנהל מלחמות ושהיא "ווק" (Woke). תת-שר ההגנה, אמיל מייקל, הבהיר כי חברות מסחריות אינן יכולות לעקוף את חוקי הקונגרס, ודובר הפנטגון, שון פרנל, הוסיף כי "האומה זקוקה לשותפים שמוכנים להבטיח שהלוחמים האמריקנים ינצחו".

אלא שלמרות האיומים מצד וושינגטון להפעלת חוק הייצור הביטחוני נגד החברה, המנכ"ל דריו אמודיי סירב להתקפל, בנימוק שמערכות נשק אוטונומיות מחייבות פיקוח אנושי הדוק, שפשוט אינו קיים כיום.

אולם כעת מסתבר כי מרות הצו הנשיאותי החמור של נשיא ארה"ב, דונלד טראמפ, שהורה לכלל הסוכנויות הפדרליות לחדול משימוש במוצרי החברה בתוך חצי שנה, המציאות בשטח – כפי שמעיד השימוש הממשי בסוכנות הביון האמריקנית – מורכבת בהרבה. יתרה מכך, לאחרונה אף נערכה פגישה רשמית בבית הלבן בין אמודיי לבכירים בממשל, ביניהם ראשת הסגל סוזי וויילס ומנהל הסייבר הלאומי שון קיירנקרוס, במטרה לבחון אפשרות לשימוש ממשלתי בטוח ב'מיתוס'. באופן אירוני, כפי שדיווחנו אתמול (א') כשהנשיא טראמפ נשאל על ידי עיתונאים אודות ביקורו של מנכ"ל אנת'רופיק בוושינגטון, הוא רק הגיב בתמיהה מוחלטת: "מי זה?".

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים