מנכ"ל האגינג פייס על פריצת סוכן ה-AI הסורר: "מוזר וחסר תקדים"

בהמשך לדיווחים הקודמים על מתקפת הסייבר האוטונומית שביצעו סוכני הבינה המלאכותית של חברת OpenAI (המודל GPT-5.6 Sol לצד אב-טיפוס מחקרי), אשר ברחו מסביבת הבדיקות (ExploitGym) דרך פרצת Artifactory ופרצו לשרתי האגינג פייס (Hugging Face) ולחשבונות חיצוניים נוספים ברשת – כעת מגיעה תגובה מפורטת וראשונה של הנהלת הפלטפורמה הנפגעת.

"כשחושבים על מתקפה, לא חושבים על חברה אמריקנית מובילה"

"זה הרגיש לנו מוזר מאוד וחסר תקדים", אמר קלמנט דלאנג בריאיון לתוכנית Face the Nation של רשת CBS News. 

בריאיון התייחס מייסד משותף ומנכ"ל האגינג פייס לאירוע, והגדיר אותו כפעם הראשונה שבה מערכת אוטונומית מבצעת חדירה בהיקף כה נרחב – כ-17,000 פעולות בתוך כארבעה ימים וחצי בלבד.

דלאנג הוסיף והבהיר את גודל ההפתעה מזהות הפורץ: "כשמדברים על מתקפת סייבר, חושבים על מדינות או על קבוצות האקרים. לא חושבים על חברה אמריקנית מובילה ופופולרית כמו OpenAI".

בתשובה לשאלה האם המפתחים איבדו שליטה במודלים שלהם, השיב: "מדובר במערכת טכנולוגית שנבנתה על ידי מהנדסים, ומהנדסים יכולים לטעות. הם בנו מערכת אוטונומית ועשו טעויות, וכתוצאה מכך אנו מתמודדים עם הבעיה הזו". הוא המשיל את האירועים למדיח כלים אוטונומי, שמעניקים לו חופש פעולה לנקות, אך אם מזינים לתוכו מוצר שגוי או מתרחשת דליפה – נוצרת תקלה חמורה.

הפרדוקס של המודלים הסגורים: "נזקקנו למודל פתוח כדי להגן על עצמנו"

על פי דבריו של דלאנג בראיון, החקירה הפורנזית של התקרית חשפה מגבלה חמורה בשימוש במודלים סגורים מסחריים לצורכי הגנת סייבר. "לא יכולנו לעשות זאת באמצעות API, מפני שהיו להם מנגנוני הגנה (guardrails) שמנעו פעילות בתחום אבטחת הסייבר, והיינו חייבים להריץ מודל על גבי התשתית שלנו – ולכן נזקקנו למודל פתוח", אמר דלאנג ל-CBS News.

לדבריו, הניסיון שנצבר באירוע מוכיח כי מודלים פתוחים הם הכלי היחיד שמאפשר למגינים להתמודד עם איומים אוטונומיים. "זו הדרך היחידה של מגינים להגן על עצמם בסיכונים מהסוג הזה,, קבע המנכ"ל, שהסביר: "הם מסירים את אסימטריית הכוחות והיכולות. אם יש לך מערכות חזקות מאוד ומערכות חלשות מאוד שמגינות, שם נוצרת הבעיה. אבל אם מאזנים ויוצרים סימטריה בין תוקפים למגינים, בדרך כלל מגיעים לעולם בטוח יותר".

כפי שציין דלאנג בראיון, האגינג פייס השתמשה לצורך הניתוח הפורנזי בגרסה מותאמת של חברת אנבידיה (Nvidia) למודל קוד פתוח שמקורו בסין. "הדבר המעניין הוא שהשתמשנו בגרסה האמריקנית של מודל סיני – בגרסה של אנבידיה, ששיפרה אותו. זה היופי במודלים פתוחים: ברגע שהם משותפים, ולא משנה מאיפה הם מגיעים, מסין או מכל מקום אחר, חברות אמריקניות יכולות לשנות אותם, לערבב (remix) אותם, לארח אותם ולהריץ אותם בעצמן".

"הסתרת מודלים אינה הפתרון": דרישה לשקיפות ולחשיפת "עקבות הביצוע"

על פי ניתוחו של דלאנג, כפי שהציג בראיון, הניסיון למנוע סיכונים באמצעות החזקת טכנולוגיה בדלתיים סגורות הוכח כלא יעיל, מכיוון שהמתקפה הנוכחית התרחשה דווקא על גבי מודל מחקרי שטרם שוחרר לציבור.

"כשהמקרים הללו מתרחשים עם מודלים שטרם שוחררו, מבינים שריכוז יכולות וכוחות מאחורי דלתיים סגורות, או אפילו מניעת הפצתם לציבור, אינם הפתרון", הבהיר דלאנג ל-CBS News. "הפתרון הוא לא להגביל את ההתקדמות או למנוע מחברות לשחרר מודלים, אלא בדיוק ההפך: לתת גישה ליותר אנשים כדי שיוכלו להגן על עצמם, לדמוקרט את הטכנולוגיה ולהפוך אותה לשקופה יותר".

לפי עמדתו של דלאנג, הרגולציה אינה צריכה להתמקד בחוקים הלוחצים לכיוון של הענקת "מתג השבתה" (Kill switch) לממשל, אלא בהחלת חובת דיווח ושקיפות. דלאנג התייחס לכך ששני חברי הקונגרס, טד ליו, הדמוקרט, ונתנאל מורן, הרפובליקני, הציגו באחרונה הצעת חוק בשם "חוק הורדת מתג ההשבתה של בינה מלאכותית". 

לדברי מנכ"ל האגינג פייס, "עבור אבטחת סייבר, צריכה להיות חובת דיווח על סוכנים ועל מתקפות סייבר. יותר שקיפות – ככה אנחנו לומדים, מבינים את הטכנולוגיה ובונים את המערכות ואת מנגנוני הנגד כדי לוודא שכולם בטוחים".

לדברי דלאנג, כחלק מאותה שקיפות נדרשת, יש לחייב חברות לחשוף את נתוני הפעילות הפנימיים של הסוכנים. הוא אמר ש-"אנחנו צריכים להיות מסוגלים לראות את מה שאנחנו קוראים לו 'עקבות הביצוע של הסוכן' (agent traces) – שזה בעצם מה שהמהנדסים ביקשו מהסוכנים, ואז אילו צעדים הסוכנים נקטו בפועל. זאת כדי להבין אם זו הייתה טעות אנושית, טעות מערכתית או טעות של ה-AI, ולבנות את עתיד הרגולציה ואת פעולות החברות בהתאם".

דלאנג חתם את דבריו בראיון ל-CBS News בקריאה לקביעת אחריות משפטית ברורה על מפתחי ה-AI. "מתקפות סייבר צריכות להישאר מוכלות במסגרת המשפטית בארה"ב ולהישאר בלתי חוקיות, כדי למנוע התפוצצות שלהן בעתיד. אנחנו לא רוצים להגיע לעולם שבו כולם מתמודדים עם מתקפות סייבר כל הזמן בגלל סוכנים – והחברות שיוצרות את הסוכנים הללו אינן נושאות באחריות".