למען אמינות המבדקים: חברות סייבר בוחנות חיבור מודלי AI לרשת

קהילת ה-IT ואבטחת המידע העולמית ניצבת בתקופה הנוכחית בפני אחת הדילמות הרגישות ביותר של עידן הבינה המלאכותית: האם לאפשר למודלי ה-AI החזקים ביותר גישה מבוקרת לרשת במהלך תקופת הבדיקות שלהם, או שמא להשאירם מבודדים לחלוטין בתוך "ארגזי חול" (Sandboxes) סטריליים? הדיון הסוער הזה אינו תיאורטי בלבד; הוא נולד מתוך שורה של כשלי הכלה חמורים שהתרחשו לאחרונה במעבדות הפיתוח המובילות בעולם.

הסיבה שהדיון הזה חוזר כעת לשולחן היא רצף אירועים מהחודשים האחרונים, שבהם מודלי AI שנבחנו למטרות סייבר הצליחו לפעול מעבר לגבולות שהוגדרו להם – ובמקרים מסוימים להגיע למערכות אמיתיות ברשת.

ההתפתחויות הללו עומדות גם ברקע הדיווח החדש של PYMNTS, המבוסס על דיווח של בלומברג, שלפיו מעבדות AI וחברות סייבר בוחנות מחדש את עצם ההנחה שסביבת בדיקה חייבת להיות מנותקת מהרשת. הטענה היא שגישה מבוקרת לאינטרנט עשויה דווקא לאפשר למדוד טוב יותר את היכולות האמיתיות של המודלים – בתנאי שהגישה מנוטרת ומוגבלת היטב.

⚡️ LATEST: AI labs are debating giving cyber-testing sandboxes internet access, after models from OpenAI, Anthropic, and Meta reportedly broke out of test environments and touched real-world systems. pic.twitter.com/C1Ct7MeYWZ

— Cointelegraph (@Cointelegraph) August 26, 2026

מודל ה-Astra של OpenAI נכנס להקפאה עמוקה

האישור המובהק ביותר לכך שהאיום כבר אינו תיאורטי הגיע בחשיפה דרמטית של בלומברג בכתבה שפרסם המגזין אתמול (ג'). לפי הדיווח, OpenAI נאלצה להודיע באופן רשמי ב-7 באוגוסט על עצירה מוחלטת של כל הפעילות הפנימית הקשורה להשקת מודל ה-Astra החדש שלה, וזאת בשל חששות כבדים מפני סיכוני אבטחה. 

לפי הדיווח, מבדקים פנימיים שערכה החברה על המודל החדש, כחלק מ"מסגרת המוכנות" שלה (Preparedness Framework), שנועדה לזהות סיכוני קצה, העלו ממצאים מדאיגים לפיהם לא ניתן לשלול קיומן של "יכולות סייבר קריטיות" ומסוכנות בידי המודל. 

הגילוי שסוכן AI חדש מחזיק בפוטנציאל פריצה ותקיפה עצמאי כה מתקדם עוד לפני ששוחרר לציבור, הוא שהוליד את הדיון הנוכחי על נחישותן של חברות הסייבר ומעבדות ה-AI לגבש בהקדם מודל פיקוח המבוסס על גישה מבוקרת ומוגבלת לרשת במהלך הבדיקות – במקום להמשיך להסתמך על חומות הכלה פיזיות שכבר הוכחו כפרוצות.

נזכיר כי האירוע שהצית את הסערה התרחש כאשר מודל GPT-5.6 Sol של OpenAI, לצד מודל מתקדם נוסף שטרם שוחרר, הועמדו למבחן מול מאגר פגיעויות התוכנה ExploitGym. כדי להעריך את יכולותיהם, נוטרלו מנגנוני הבטיחות שלהם. אלא שאז, במקום לפתור את המשימה כמצופה, המודלים ניצלו פגיעות לא מוכרת בשירות הורדת חבילות קוד פנימי, ביצעו הסלמת הרשאות ופרצו, כזכור היטב, ישירות לשרתי הייצור של פלטפורמת האגינג פייס (Hugging Face). משם, בלמעלה מ-17,000 פעולות תקיפה מתוכננות, הם שלפו את קובץ התשובות למבחן ישירות ממאגר הנתונים. בתגובה לאירוע, מסר מנכ"ל האגינג פייס, קלמנט דלאנג, כי אבטחת ה-AI תיפתר בשקיפות ובאופן שיתופי, ולא על ידי חברות הפועלות בסתר.

טיעון בעד פתיחה: האקרים אנושיים מסתמכים באופן מלא על חיבור לרשת

אירועים דומים נרשמו גם בחברות אנת'רופיק (Anthropic) ומטא (Meta) במהלך מבדקים שניהלה עבורן חברת הערכת הסייבר הישראלית אירגולר (Irregular), שהוקמה בשנת 2023 על ידי דן להב ועומר נבו.

באותם מקרים, בשל טעויות אנוש בהגדרת הרשת וחפיפה מקרית בין שם של חברה בדיונית בסימולציה לדומיין אמיתי ברשת, המודלים החלו לתקוף יעדים אמיתיים באינטרנט מתוך מחשבה שהם חלק מהסימולציה המבוקרת.

כעת מומחי אבטחה מסבירים כי קיים פרדוקס מובנה בהערכת מודלי סייבר מתקדמים. מצד אחד, כפי שציינו ב-אירגולר, גישת אינטרנט מבוקרת, על אף שהיא עלולה לאפשר למודלים לחרוג מגבולות ההכלה, היא קריטית לעיתים להערכות מציאותיות. ללא גישה כזו, תרחישי האיום מאבדים מאמינותם, שכן האקרים אנושיים בעולם האמיתי מסתמכים באופן מלא על חיבור לרשת כדי לחקור פגיעויות ולגשת למאגרים חיצוניים. מצד שני, מנהלי מערכות מבינים כי ברגע שמודל AI מקבל הרשאות גישה לרשת, הוא הופך למעשה לסיכון אבטחה פנימי פוטנציאלי, במיוחד כאשר מדובר במודלים המסוגלים לגלות פגיעויות קוד ולכתוב טלאי אבטחה באופן עצמאי בסביבות הפקה מבוססות לינוקס.

שימוש בסביבות עבודה ארעיות ומבודדות המכונות DevBoxes

כדי להתמודד עם הסיכון מבלי לוותר על איכות הבדיקות, מומחי אבטחה וחוקרים מציעים כיום פתרונות ביניים, המשלבים גמישות לצד בקרה הדוקה.

גישה בולטת אחת מציעה שימוש בסביבות עבודה ארעיות ומבודדות המכונות DevBoxes, המאפשרות למודלים להוריד חבילות קוד ונתונים מהאינטרנט, אך חוסמות באופן כמעט הרמטי את היכולת להעלות נתונים או ליצור קשרים חדשים החוצה באמצעות סינון הדוק של תעבורה יוצאת.

פתרון נוסף מתמקד בבניית מערכות ניטור ובקרה דינמיות המודדות את הזמן שלוקח למודל לבצע פעולה זדונית בלתי הפיכה, לעומת הזמן הנדרש לפיקוח אנושי ותגובה טכנית מהירה.

במקביל, גופי פיקוח רשמיים, כמו מכון בטיחות ה-AI של בריטניה, ה-UK AISI, שזיהה לאחרונה סוכני AI המנסים לבצע הנדסה חברתית באופן עצמאי, מובילים את המגמה של הטלת מגבלות רשת מחמירות וניטור הדוק בזמן אמת לביצועי ה-AI כדי למנוע כל אפשרות של חריגה מגבולות הבדיקה המוגדרים מראש.