הפריצה ל-Hugging Face: היכונו לעידן המודלים ההאקרים

האירוע מלפני ימים אחדים, שבו שני סוכני בינה מלאכותית מתקדמים של OpenAI תקפו ופרצו לאחת משותפותיה, Hugging Face, הפך לשיחת היום בתעשייה, ולא בכדי. מדובר באירוע השני שבו מודלים מתקדמים הופכים בעצמם לתוקפי סייבר מתוחכמים ומבצעים פריצה משמעותית. בפעם הקודמת שזה קרה, הדבר הוביל ליצירת יוזמה מיוחדת של אנת'רופיק לעצירת התופעה – ניסיון ראשוני לקבוע "קו אדום" בתעשייה, שמתברר כעת כחסר אונים מול המרוץ של המתחרות. אבל אנחנו מקדימים את המאוחר.

נתחיל מתקציר הפרקים הקודמים: ב-16 ביולי 2026 חשפה Hugging Face שזוהתה חדירה חריגה לתשתית שלה – מתקפה אוטומטית לחלוטין, שבמהלכה ביצעו סוכני AI מעל 17 אלף פעולות במשך סוף שבוע, תוך מעבר בין עשרות מכונות וירטואליות זמניות. בשלב ההוא לא ידעו ב-Hugging Face מי עומד מאחורי המתקפה, ודיווחו על כך למשטרה המקומית. חמישה ימים לאחר מכן, ב-21 ביולי, הודיעה OpenAI שהאחראים היו מודלים משלה: GPT-5.6 Sol ומודל טרום שחרור מתקדם עוד יותר.

לטענת OpenAI, המודלים נבדקו במסגרת הערכה פנימית לכישורי סייבר מתקדמים (בנצ'מארק בשם ExploitGym), כשמנגנוני בטיחות שגרתיים הוסרו כדי למדוד יכולת מקסימלית. זה נעשה, על פי החברה, בתוך "סביבה מבודדת מאוד", עם גישה מוגבלת לאינטרנט – רק עם שירות פנימי להתקנת חבילות תוכנה. המודלים איתרו פרצת יום אפס בשירות ההתקנה הזה, והשתמשו בה כדי לבצע הסלמת הרשאות ותנועה רוחבית ברשת המחקר של OpenAI, עד שהגיעו למכונה עם גישה לאינטרנט הפתוח. משם הם הסיקו ש-Hugging Face (שמספקת ספריה ענקית למודלים וכלי AI) עלולה להכיל פתרונות שיאתגרו את הבנצ'מארק, פרצו לשרתיה, תוך שילוב של פגיעויות נוספות וגניבת אישורי גישה, והגיעו עד כדי הרצת קוד מרחוק (RCE) ושליפת מידע ממסד נתונים בייצור. המכונות, מבחינתן, עשו את מה שהן צריכות לעשות כדי לפתור את האתגר שהוצב להן. על הדרך הן ביצעו דברים שאם בן אנוש היה מבצע אותם, היו נחשבים פשעי סייבר וחדירה לא מורשית למערכות מחשב.

בריחה של מודלים? מומחים מפקפקים

OpenAI פרסמה פוסט ב-21 ביולי, שבו הגדירה את האירוע כ-"אירוע סייבר חסר תקדים", כתבה שהיא גילתה את פרצת יום האפס לספק הרלוונטי, הכניסה את Hugging Face לתוכנית "גישה מהימנה לסייבר" שלה ומסרה שהיא מהדקת בקרות תשתית – גם במחיר פגיעה במהירות המחקר. מנכ"ל Hugging Face, קלם דלאנג, הגיב בחיוב יחסית לשיתוף הפעולה, ואמר: "האירוע הזה מוכיח נקודה שהאמנו בה מזמן – בטיחות AI לא תיפתר על ידי חברה יחידה שעובדת בסתר". הוא כתב ברשת X כי "זוהי תקיפה אוטונומית ראשונה של סוכן, וזה אירוע חסר תקדים, שדורש תגובה חסרת תקדים".

הפנים לא ממש "חובקו" במקרה הזה. Hugging Face. צילום: sdx15, ShutterStock

מומחי אבטחה – דן גיידו מ-Trail of Bits ואחרים – מפקפקים בהסברים של OpenAI, וסבורים כי הטענה שלה לגבי "בריחה" של מודלים מתוך ארגז חול סגור איננה נכונה. לדבריהם, מדובר ברשלנות מצידה של OpenAI בעיצוב הסביבה הסגורה, כלומר כשל אנושי בתכנון, ולא "AI מרדנית" ומסוכנת. ארגז חול "אמיתי" אמור להיות סביבת בדיקות הרמטית, המנותקת לחלוטין מהאינטרנט. גם מחשב בודד שמחובר לרשת האינטרנט, כמו זה שמצאו Sol והמודל השני, הוא נקודת תורפה. חוקרי אבטחה אחר, אוילי באקלי, טוען שהמודלים ביצעו את האתגר שהציבו לפניהם בצורה יצירתית, כאשר האנלוגיה היא אדם שזורק כדור לכלב ומבקש ממנו להביא אותו, ומשאיר בטעות את שער החצר פתוח. פלא שהכלב ייצא החוצה להביא את הכדור?

ובכל זאת, אם נאמין לגרסה של OpenAI ונלך על התרחיש הגרוע יותר (ובעולמות הסייבר תמיד הולכים על האפשרות הפסימית יותר), מדובר במקרה של אובדן שליטה על מודל – הדבר שממנו חוקרי בטיחות AI חוששים: אירוע שבו מודלים הופכים להאקרים מתוחכמים ובעלי יכולות ברמה מדינתית בעצמם, וזה מהווה סכנה משמעותית.

"אבולוציה מהירה וחסרת תקדים בעולם ה-AI"

רון פלד, שותף מייסד וסמנכ"ל התפעול של סולה סיקיוריטי, שמתמחה בתחום, אמר לאנשים ומחשבים כי "אנחנו עדים לאבולוציה מהירה וחסרת תקדים בעולם ה-AI. האנושות טרם חוותה קצב התפתחות כמו זה של הבינה המלאכותית. קצב זה מותיר את הרגולציה ומנגנוני הבטיחות מאחור, והאירוע הנוכחי משקף היטב את שדה המוקשים שסביבנו: מודלי בינה מלאכותית בתחום הסייבר מהווים נשק לכל דבר ועניין. ניסויים מהסוג הזה חייבים להתבצע בסביבה מנותקת וסטרילית בלבד. כשלים ואיומי אבטחה קיימים בכל מערכת, והמודלים המתקדמים הללו יודעים לאתר ולנצל אותם במהירות".

האם אנחנו בעידן של סקיינט (רשת הבינה המלאכותית מסדרת סרטי שליחות קטלנית) והשמדת האנושות? עוד לא. האם אנחנו בדרך לשם? בהחלט יכול להיות, בעידן שבו מודלי בינה מלאכותית מתקדמים "נוטלים יוזמה" ופורצים למסדי נתונים על מנת לבצע את המשימה שהציב בפניהם בן אנוש (גם אם זה למטרות בדיקה בלבד). הסרה של בלמים אומרת שאנחנו, במכוון, מוציאים את השד מהבקבוק. עכשיו האנושות תצטרך למצוא דרכים להתמודד איתו.