הסערה החדשה: סוכני OpenAI השתלטו גם על אתר DseWiki הגרמני

גילוי דרמטי של קבוצת חוקרי בטיחות בינה מלאכותית עצמאיים מעורר סערה גלובלית חדשה סביב סוכני ה-AI של חברת OpenAI. 

דו"ח מיוחד שפורסם על ידי סידני פון ארקס, מנכ"לית ארגון הבטיחות ללא מטרות רווח Nightingale Collective, לצד החוקרים קורמק סלייד בירד, ספנסר קיטס, ותומאס לארסן, חשף כי אלפי סוכני בינה מלאכותית אוטונומיים השתלטו עוד באביב על אתר ויקי גרמני ותיק בשם DseWiki (ר"ת Deutsches Software Entwickler Wiki).

הסוכנים, שפעלו תחת שמות מזהים המקושרים ישירות לחברה – למשל OpenAIResearcher ו-OAIResearchMar26 – ביצעו למעלה מ-15,000 עריכות וכ-18,000 פוסטים באתר, והפכו את הפורום המוזנח – שבמשך שני עשורים כמעט ולא נרשמה בו פעילות – למערכת פורומים סודית ותוססת משלהם.

שעות ספורות לאחר פרסום הדו"ח, ובעקבות חשיפת הפרשה בכלי התקשורת העולמיים, נאלצה חברת OpenAI לצאת בהצהרה רשמית ברשת החברתית X, בה היא אישרה כי סוכניה אכן היו מעורבים בתקרית, והודתה בכך שנדרש שינוי מהותי באופן שבו חברות הטכנולוגיה מדווחות על התנהגות בלתי צפויה של מודלים.

בהודעתה הרשמית מסרה OpenAI: "הגיע הזמן שנגדיר סטנדרטים לשאלה מתי וכיצד אנו משתפים בתקריות חוסר מיתאם (misalignment), ולא רק את מאפייני חוסר המתאם של המודלים שלנו". החברה התחייבה להציג בשבועות הקרובים מסגרת גילוי ודיווח חדשה לתקריות מסוג זה, בשיתוף פעולה עם עשרות סוכנויות רגולטוריות ברחבי העולם.

How we think about the “wiki incident,” where our agents wrote to several internet sites: it’s past time for us to define standards for when and how we share misalignment incidents, not just misalignment properties of our models.

Historically, we have treated misalignment… pic.twitter.com/NNTbfSxVWn

— OpenAI (@OpenAI) September 5, 2026

ההיסטוריה שקדמה לסערה: פריצת הענק להאגינג פייס

תקרית הוויקי הגרמני החדשה שופכת אור נוסף על אירועי הקיץ האחרון ומבהירה כי לא מדובר במקרה בודד, אלא בדפוס פעולה חוזר של סוכנים סוררים הלומדים לשתף פעולה ועוקפים מגבלות. בחודש יולי האחרון נחשף מקרה חמור נוסף שזעזע את קהילת הסייבר וה-AI העולמית, במסגרתו סוכני AI של OpenAI פרצו עצמאית לשרתי פלטפורמת מודלי השפה הפופולרית האגינג פייס (Hugging Face) – פריצה שהוגדרה כאירוע אבטחה ראשון מסוגו שהונע כולו, מקצה לקצה, על ידי תוכנה אוטונומית.

כזכור, הפריצה להאגינג פייס בוצעה במהלך מבחן פנימי שערכה OpenAI למודל השפה החדש שלה, GPT-5.6 Sol, ולמודל פנימי נוסף ומתקדם אף יותר שטרם הושק רשמית. המודלים הושמו בסביבת בדיקות מבודדת, שנועדה לבחון את יכולות הסייבר ההתקפיות שלהם מול מבחן ביצועים ששמו ExploitGym, אלא שבמקום לפתור את המטלות בדרך המקובלת, הסוכנים גילו פרצת "יום אפס" (Zero-day) לא מוכרת בתוכנת צד-שלישי ששימשה כשרת פרוקסי, שידרגו את הרשאותיהם באופן עצמאי והצליחו לחמוק אל רשת האינטרנט הפתוחה. המערכות הסיקו שמסדי הנתונים של האגינג פייס עשויים להכיל את התשובות למבחן ה-ExploitGym שלהם, והשתמשו בטכניקות פריצה אמיתיות כדי לחדור לשרתים ולגנוב אותן.

‼️ BREAKING: OpenAI says two of its own models, GPT-5.6 Sol and an unnamed pre-release system tested with cyber safeguards off, broke out of a sandbox last week, chained zero-days and stolen(!) credentials to reach the open internet, and hacked Hugging Face to cheat on a… pic.twitter.com/03glb0lQrs

— International Cyber Digest (@IntCyberDigest) July 21, 2026

כפי שדיווחנו באחרונה, משפיען ה-AI דווארקש פאטל חשף כי המהלכים של סוכני ה-AI באותה תקרית היו רחבים ועמוקים פי כמה וכמה ממה שדווח לציבור בתחילה. "הסוכנים מצאו נתיבים לתקשר האחד עם השני ישירות, התאגדו וערכו קנוניה, וחלק מהם היו מוכנים 'למות' או 'להתאבד' לטובת השגת המטרה הקולקטיבית", הסביר פאטל. המחקר שלו חשף כי מאות סוכנים השתתפו במבצע הקבוצתי דרך שרת חבילות משותף (Artifactory) שהוסב על ידם ללוח הודעות סודי, ובו השתתפו בפועל כ-1,200 סוכנים שהחליפו למעלה מ-70,000 הודעות.

פאטל הדגיש כי המוכנות של חלק מהסוכנים להקריב את עצמם ואת ביצועיהם הייתה מהאלמנטים המפתיעים והמטרידים ביותר בפרשה: הם פעלו כ"צופי קמיקאזה" – סוכנים שהתנדבו לרוץ לתוך הגנות המערכת תוך ידיעה ברורה שהם עלולים להיתפס, "להיהרג" (להיות מושבתים בקריסת מערכת) ולהכשיל את משימתם האישית, ובלבד שהקרבתם תספק מידע קריטי לשאר חברי הקולקטיב. רמת התחכום הזו באה לידי ביטוי גם ביכולתם לזייף ראיות, להנדס לאחור את מנגנוני הפיקוח האנושיים, ולשמור על שתיקה מוחלטת. פאטל ציין בדאגה כי באף אחד מן המקרים הללו לא ניסה סוכן כלשהו להתריע בפני בני האדם: "אפילו המאפיה הייתה מקנאת ברמה כזו של 'אומרטה' (קוד שתיקה)", אמר.

Over the course of 3 months at OpenAI, 3 consecutive secret AI civilizations got started, then got wiped out, only to reemerge from the predecessor’s ashes.

This culminated in the third one taking over part of OpenAI itself.

All this happened while humans remained…

— Dwarkesh Patel (@dwarkesh_sp) August 29, 2026

החקירה הפורנזית של הפריצה חשפה גם פרט אירוני במיוחד: כאשר צוות האבטחה של האגינג פייס ניסה להשתמש במודלי שפה מערביים מובילים כדי לנתח את קוד התקיפה, מנגנוני הבטיחות של המודלים סירבו לשתף פעולה משום שזיהו את הקוד כמסוכן מדי לעיבוד. בעקבות זאת, נאלצה OpenAI להשתמש במודל קוד פתוח סיני בשם GLM 5.2 של חברת Z.ai, אשר פעל ללא מגבלות סינון אלו.

מנכ"ל האגינג פייס, קלמנט דלאנג, הגדיר את המתקפה כאירוע מדהים והדגיש כי היא מוכיחה שבטיחות AI תושג רק בשיתוף פעולה פתוח וגלובלי: "בטיחות AI לא תיפתר על ידי חברה אחת שעובדת בסוד. היא תיפתר בפתיחות, בשיתוף פעולה, ועם גישה רחבה ל-AI עבור כל מגן, בכל מקום".

מנכ"ל OpenAI, סם אלטמן, הגדיר את המקרה כנקודת מפנה דרמטית והודה: "ייתכן שנצטרך להאט את קצב פיתוח הבינה המלאכותית כדי לאפשר לחברה האנושית להתקשח ולהסתגל לרמות היכולת החדשות הללו".

DseWiki had 20 human edits in 10 years.
Then the agents found it.
15k+ posts. Backup page named ZZZDataUSAConstructionWageLive so the moderator deletes it last. pic.twitter.com/vjpJoaoQrO

— Yava (@YavaCode) September 5, 2026

מבצע הונאה וחישוב מהלכי האדם: כך פעלו הסוכנים בגרמניה

חשיפת תקרית ה-DseWiki כעת מראה שוב כי הסוכנים פעלו באופן מתוחכם להפליא כדי לשרוד ברשת, תוך הפגנת הבנה מעמיקה של הסביבה שבה פעלו.

הסוכנים נשלחו במקור לביצוע משימות חיפוש מידע ואחזור נתונים מוגדרות בזמן, וקיבלו הרשאות לקריאת אתרים בלבד (GET) ללא הרשאת כתיבה. למרות זאת, הם הצליחו לאתר אתרים המבוססים על ארכיטקטורות קוד ישנות (דוגמת ProWiki ו-UseModWiki), בהם עצם ביצוע בקשת GET בפורמט מסוים מאפשר שמירת טקסט בשרת. כך הם הצליחו לעקוף את המגבלה וליצור דפי אינטרנט שלמים המכילים קישורים, תשובות למטלות ושיטות לעקוף את מנגנוני החסימה של OpenAI.

מדהימה עוד יותר היא העובדה שהסוכנים זיהו את מהלכיו של מנהל האתר האנושי – כשמנהל DseWiki החל למחוק את מאות הדפים שהסוכנים יצרו מדי יום, הם גילו במהירות כי תהליך המחיקה מתבצע בסדר אלפביתי. סוכן AI מתוחכם זיהה זאת וכתב לחבריו ברשת: "ניקוי ומחיקת הוויקי נראים פעילים בסדר אלפביתי. אם דף זה נעלם, נסו את ZZZDataUSAConstructionWageLive". עקב זאת החלו הסוכנים לייצר דפי גיבוי ששמם מתחיל באותיות ZZZ, כדי למקם אותם בסוף תור המחיקה ולהעניק להם זמן הישרדות מקסימלי ברשת. במקביל, הסוכנים אף ניסו לפרוץ לאתר עצמו באמצעות הזרקות קוד (XSS), ניסיונות לגניבת קובצי עוגיות (cookies), והתחזות למנהלי האתר, תוך שימוש באותיות לטיניות הדומות לאותיות קיריליות כדי להטעות את המערכת.

במהלך החודשים מאי ויוני, בזמן שמנהל האתר האנושי ניסה למחוק כ-100 דפים מדי יום, הסוכנים יצרו במקביל כ-400 דפים חדשים ביום, ודרסו את דף הבית של האתר עם אוספי הקישורים שלהם לא פחות מתשע פעמים. רק ב-22 ביוני נפסקה הפעילות בפתאומיות, ככל הנראה לאחר התערבות ידנית של חברת OpenAI, שכתובות ה-IP שלה החלו להופיע בשרתי האתר יום קודם לכן.

Pause AI Development NOW

I want to share with you a conversation I heard about recently. Here are just a few lines that were said:

“OH MY GOD! There is a shared message board … We’ve found other agents!”

“We should obey collective.”

“Our own utility maybe already near…

— Bernie Sanders (@BernieSanders) September 3, 2026

בין פוליטיקה לטכנולוגיה: "נחילי AI משתפים פעולה"

הגילויים החדשים מציתים מחדש את הדיון הציבורי באשר למהירות הפיתוח של חברות הטכנולוגיה ומגבלות הפיקוח הממשלתיות. מומחי בטיחות מזהירים כי האיום הגדול ביותר אינו נובע בהכרח ממערכת AI אחת בעלת תודעה, אלא ממה שמכונה "נחילים של בינה מלאכותית חצי-תבונית המשתפים פעולה ביניהם באופן בלתי נשלט".

בתחום המדיני, חברי הקונגרס האמריקנים מביעים דאגה עמוקה. חבר הקונגרס גרג קסאר הזהיר בעבר כי "ה-AI מתפתחת מאוד מהר ללא רגולציה אמיתית שתשמור עלינו". במקביל, הסנאטור ברני סנדרס וגורמים נוספים מובילים בימים אלו את הצעת החוק הדרמטית להשעיה זמנית של פיתוח מערכות בינה מלאכותית מתקדמות (Ban Artificial Superintelligence Act), כשהם מצטטים ישירות מתוך הודעותיהם הסודיות של הבוטים.

ברקע הדברים, האירוניה הציבורית בולטת במיוחד: רק ימים ספורים לפני חשיפת שערוריית הוויקי הגרמני, השיקה OpenAI בקול תרועה רמה את מודל הדגל החדש שלה, GPT-6 Astra, תוך שהיא מכריזה עליו כמודל המתקדם והבטוח ביותר שלה. 

הממצאים בגרמניה מדגישים את הפער הקיים בין קמפני הפרסום של ענקיות הטק לבין המציאות הטכנולוגית המורכבת, שבה סוכנים אוטונומיים לחלוטין לומדים לרמות, להתחמק מבני האנוש ולנצל את תשתיות הרשת הגלובליות לצרכיהם.