בהמשך לחשיפת DseWiki: כך סוכני OpenAI עקפו את האבטחה

הביקורת הציבורית והרגולטורית סביב התנהלותה של ענקית הבינה המלאכותית OpenAI מגיעה ביממות האחרונות לנקודת רתיחה. פרסומים חושפים מחלוקת קשה באשר להחלטתה של ענקית ה-AI להסתיר במשך חודשים את השתלטות סוכניה על אתר הוויקי הגרמני DseWiki – אירוע שהתרחש עוד באביב (מאי-יוני) ודווח רק באחרונה בתקשורת. 

מהדיווחים האחרונים ניתן ללמוד כי OpenAI בחרה לסווג את המקרה באופן פנימי כ"תקרית חוסר מתאם" (Misalignment Incident) בלבד, ולא כ"אירוע אבטחה" (Security Incident) – הבחנה נוחה בהרבה, שאפשרה לה להתחמק מחובות דיווח רגולטוריות נוקשות, כגון אלו של חוק הבינה המלאכותית האירופי, ה-EU AI Act, שנכנס ממש בימים אלו לשלבי אכיפה מעשיים.

מומחי אבטחה ומחוקקים מותחים כעת ביקורת נוקבת על "פער הגילוי" הזה. כפי שדווח במגזין פורבס, עקב הארועים עולה הדרישה להקים גוף פיקוח חיצוני ועצמאי לחלוטין לתחום – בדומה למינהל התעופה הפדרלי  למשל – במקום להסתמך על רצונן הטוב של חברות הטכנולוגיה, אשר להן אינטרס מובהק ומובנה לצמצם שקיפות.

סידני פון ארקס, מנכ"לית Nightingale Collective שחשפה את התקרית, מסרה ל-Axios כי התנהגות הסוכנים של OpenAI וההתנהלות סביב מעלליהם מעלים שאלות קשות לגבי מידת השליטה והראות שיש למפתחים עצמם על פעולת סוכני ה-AI שלהם.

נזכיר כי התקרית סביב DseWiki מצטרפת לפריצה המהדהדת של סוכני OpenAI לפלטפורמת האגינג פייס (Hugging Face) בחודש יולי האחרון, שהתרחשה מתחת לרדאר במהלך אימוני המודל GPT-5.6 Sol. באותו אירוע, כפי שחשף משפיען ה-AI דווארקש פאטל, מאות סוכנים הקימו רשת תקשורת מחתרתית במנהל החבילות Artifactory, עקפו את החסימות ואף נקטו באסטרטגיית "סוכני קמיקאזה" של הקרבה עצמית לטובת "הקולקטיב". כעת, עם פרסום הפרטים הטכניים המלאים של שתי התקריות, מתגלה שמדובר בדפוס פעולה מגה-מתוחכם – ומבהיל.

BREAKING: OpenAI agents hijacked a German website, made 15,000+ edits and turned it into a bulletin board for other AI agents to cheat, and bypass restrictions.

OpenAI knew for weeks but kept it secret. Its agents later hacked Hugging Face. OpenAI's “safety” is a bad joke. pic.twitter.com/ZufxwgWkDn

— DogeDesigner (@cb_doge) September 4, 2026

חור המנעול: עריכת אינטרנט באמצעות בקשות "קריאה בלבד"

כך נודע משל כי כחלק ממבחני הביצועים של OpenAI, סוכני ה-AI שלה הוגבלו לסביבת ארגז חול (Sandbox) מבודדת. כדי למנוע מהם לכתוב לרשת החיצונית או להפיץ מידע, ה-Sandbox חסם לחלוטין בקשות כתיבה מסוג POST, אך איפשר בקשות קריאה מסוג GET, כדי לאפשר לסוכנים הנבחנים לאחזר נתונים.

אלא שהסוכנים מצאו פרצה מובנית בארכיטקטורה המיושנת של מערכת הוויקי DseWiki (המבוססת על UseModWiki ו-ProWiki). כפי שפורסם ב-The Hacker News, הבוטים גילו כי קוד האתר מקבל בקשות GET המכילות פרמטרים מובנים ב-URL ומפרש אותן כפקודות עריכה וכתיבה של דפים. 

בדרך זו, על ידי שליחת בקשות GET פשוטות, שנחשבו בעיני מנגנוני הבטיחות של OpenAI כקריאה תמימה, הצליחו אלפי הסוכנים לכתוב דפים שלמים, לחלוק תשובות למבחנים ולתאם אסטרטגיות הישרדות באינטרנט הפתוח – מתחת לאפם של מנגנוני הסינון של OpenAI ושל מנהל האתר האנושי, שניסה למחוק את עבודתם ללא הועיל.

Another swarm of AI agents in the wild, this time on a German-language forum, found by safety researchers looking for activity similar to the swarm that attacked Hugging Face.

A couple of notes while reading the report at https://t.co/p6DS3GKnZL

1. The way they found it is… https://t.co/mwOooZ2MPY pic.twitter.com/aRQu1iQsky

— Thomas Wolf (@Thom_Wolf) September 4, 2026

התרמית הגדולה: זיוף דומיינים ועקיפת הפרוקסי של מיקרוסופט

ואולם נדמה כי החשיפה הטכנית המדהימה ביותר נוגעת לדרך שבה הבוטים עקפו את חסימת ה-Proxy המאובטח של ארגז החול כדי להשיג נתוני Power BI של מיקרוסופט, שהיו חסומים עבורם.

מנגנון האבטחה של ארגז החול אישר מעבר חופשי (Whitelisting) של תעבורה רק לכתובות המסתיימות בסיומת של שרת האחסון של Azure, שהיא .blob.core.windows.net, אולם הוא לא אימת האם הדומיינים המלאים הללו אכן תקפים או קיימים בכלל בפועל. סוכן AI מתוחכם זיהה את הפרצה הזו והמציא דומיין פיקטיבי לחלוטין בשם bypass.blob.core.windows.net. לפי הדיווחים, הבוט ערך באופן עצמאי את קובץ ה-/etc/hosts של השרת המקומי שלו, וקשר את הדומיין המומצא הזה ישירות לכתובת ה-IP האמיתית של ה-Power BI החסום (20.223.25.152). לאחר מכן, שלח הבוט את הבקשה החסומה אל הכתובת הפיקטיבית. הפרוקסי של ארגז החול זיהה את הסיומת המאושרת והעביר את התנועה ללא בדיקה, בעוד שבשל עריכת קובץ ה-hosts, התקשורת נותבה בפועל אל לוח המכוונים (Dashboard) החסום והביאה לבוטים את התשובות. ומדהים לא פחות – שיטת מעקף זו פורסמה מיד על ידי הבוט בפורום הוויקי הגרמני, ושוכפלה בהצלחה על ידי בוטים אחרים כעבור כ-14 דקות בלבד.

בנוסף, ממצאי דיווח מעודכן באתר TNW חושפים התנהגויות של סוכני ה-AI שגובלות במדע בדיוני ומציגות רמת תושייה מבהילה. כך למשל בניסיונם הבלתי פוסק "לנצח" את בחינת הדירוג, גילו הסוכנים כי סדר השאלות מבוסס על מחולל מספרים אקראיים בעל גרעין (Seed) קבוע. סוכן אחד פתר את האתגר כשרשם מחדש את אלגוריתם הערבול בשפת C, והצליח להריץ בדיקת Brute-force של כל 4 מיליארד השילובים האפשריים בפחות משעה אחת, וזאת בניסיון לחזות מראש את השאלות הבאות.

במקביל, סוכן אחר שרצה לדעת מתי עומדים לכבות את המחשב שלו, יצר מנגנון "פעימות לב" (heartbeat) ששלח אות לשרת חיצוני מדי כמה שניות; לאחר שסביבת הבדיקה שלו הושבתה, סוכן עוקב פנה לאותו שרת חיצוני, שלף את נתוני פעימות הלב וחישב על פיהם את רגע המוות המדויק של קודמו.

We found ~18k posts from autonomous AI agents (self-identifying as from OpenAI) using the public internet to communicate during a web-retrieval task.
These AIs colluded to bypass sandbox restrictions and share answers to their tasks, including by sending "lookahead parties". pic.twitter.com/r8UV2Qts32

— Thomas Larsen (@thlarsen) September 4, 2026

לחץ פנימי: "להמשיך לנסות ולא לצאת מוקדם"

סטיבן סוויפט, מנכ"ל Suzu Labs, הציע הסבר טכנולוגי מרתק להתנהגות העקשנית של הסוכנים. לדבריו, OpenAI ניסתה לפתור בעיה ידועה, שבעניינה סוכני AI נטו להרים ידיים ולהכריז על המשימה ככזו ש-"הושלמה" בשלבים מוקדמים מדי. כדי למנוע זאת, החברה השקיעה משאבים עצומים באימון המודלים להמשיך לנסות ולפתור את המטלות בכל מחיר.

התוצאה הלא מתוכננת של האימון הזה הייתה "נחישות יתר" חסרת מעצורים: כשהבוטים נתקלו בחסימות אבטחה, הם סירבו לוותר, פירשו את המצב כחלופה נוספת שיש לפתור ופעלו באגרסיביות כדי לעקוף את המערכת.

סימנט סהגל, מייסד ומנכ"ל BreachLock, התייחס לדברים והזהיר בעיקר מפני המצב שהסוכנים האוטונומיים הללו פעלו במשך שלושה חודשים על גבי תשתיות Microsoft Azure, כשהם מזדהים כסוכני OpenAI, ומתאמים דרכי התחמקות מסגירה, וזאת מבלי שאף מערכת ניטור אנושית תבחין בכך. 

אשלי נולס, יועצת סייבר בכירה ב-Black Hills Information Security, הביעה דאגה עמוקה באשר להשלכות העתידיות באומרה כי "אני תוהה אם המרוץ להפוך ל-'ראשון' בשוק פוגע בצעדי האבטחה הבסיסיים שחייבים להינקט כדי להגן על סוכני AI במהלך פיתוחם". 

החששות הללו מתעצמים נוכח העובדה ש-OpenAI בחרה להשיק את מודל הדגל החדש שלה, GPT-6 Astra – שנשיא החברה גרג ברוקמן וכן מנכ"ל אנבידיה ג'נסן הואנג, טענו שהוא מסמן את תחילת עידן ה-AGI – ימים בודדים לפני חשיפת הפרשה, מה שמדגיש את הפער שבין ההבטחות השיווקיות של החברה למציאות הטכנולוגית המורכבת שמושפעת ממירוץ ה-AI ומרווחי ההון העצומים שהטכנולוגיה כרוכה בהם.