בעקבות הסוכנים הסוררים: הוקמה ברית לאבטחת AI בקוד ובמודלים פתוחים

נמשכות ההשפעות של מתקפת הסייבר שבוצעה על ידי מודלים סוררים של OpenAI: מוקדם יותר היום (ב') דיווחנו על הצעת חוק בנושא. אלא שאתמול הוקמה ברית חדשה של חברות, שתפתח טכנולוגיות להגנת תוכנה וסוכני AI.

הברית החדשה נוסדה לאחר שסוכני ה-AI הסוררים של OpenAI תקפו את הסטארט-אפ האגינג פייס, שלא הצליח להשתמש במודלים מסחריים כדי לנתח את ההתקפה ולהגן על עצמו. במסגרת המתקפה נוצר מצב שבו לא ניתן היה להבחין בין מי שמגיב לאירוע לבין מי שהוא תוקף.

לצורך משימת ההגנה על סוכני ה-AI, החברות שייטלו חלק בברית החדשה, Open Secure AI Alliance שמה, יפתחו וישתפו טכנולוגיות, שיטות וכלים פתוחים. את הברית מובילה אנבידיה, וחברו לה עשרות חברות טק מארצות הברית ומאירופה, ביניהן מיקרוסופט, סיסקו, קראודסטרייק, פאלו אלטו, HPE, יבמ, רד האט, דל, דאטה בריקס, SpaceX, פלנטיר, סימנס, סיילספורס, סרוויס נאו, סאפ, סנואופלייק, OpenClaw ו-Thinking Machines, שייסדה מירה מוראטי, לשעבר סמנכ"לית הטכנולוגיות של OpenAI.

האגינג פייס, החברה המותקפת במקרה שבעקבותיו הברית נוסדה, הצטרפה אליה, אולם OpenAI – לא. מומחים מתחו ביקורת על כך שהחברה של סם אלטמן אינה חלק מהברית. אחד מהם כתב: "OpenAI נעדרת באופן בולט מרשימת התומכים הראשוניים ביוזמה חדשה בתעשייה לקידום יצירתם של כלי אבטחת סייבר חזקים". אחר הוסיף: "בניגוד לשמה, החברה לא ממש פתוחה".

מודלים ומעטפות פתוחים

לפי הודעת הברית החדשה, "אבטחת סייבר היא אחד התחומים שמפיקים את התועלת הרבה ביותר מתוכנות קוד פתוח. הברית תפעל לאיתור פרצות, לחשיפתן ולתיקונן באמצעות טכנולוגיות פתוחות. הקמתה משקפת הכרעה עקרונית בין שתי גישות: הסתמכות על מספר מצומצם של מערכות סגורות להגנת תשתיות קריטיות או בניית שכבות הגנה על בסיס מודלים, מעטפות הרצה (Harnesses) וכלים פתוחים, שכל צוות אבטחה יוכל לבחון, להתאים ולפרוס".

"מודלים ומעטפות פתוחים מנגישים יכולות הגנה מתקדמות, מגבירים את השקיפות עבור צוותי אבטחה, מאפשרים להגן על מערכות תוך שמירה על פרטיות הנתונים ותומכים במערך הגנה מבוזר, שאינו תלוי בנקודת כשל יחידה", כתבו מקימי Open Secure AI Alliance. לדבריהם, "אירוע האבטחה האחרון בהאגינג פייס ממחיש את הצורך בגישה זו: לאחר שכלי AI סגורים, שלא הצליחו להבחין בין פעילותם של תוקפים לזו של צוותי אבטחה, חסמו כלים לניתוח פורנזי, הפעילה החברה על גבי התשתית שלה את המודל בעל המשקלים הפתוחים GLM 5.2, ניתחה בעזרתו יותר מ-17 אלף פעולות – ובלמה את המשך החדירה".

הברית קוראת גם לקובעי מדיניות להכיר במודלים, במעטפות הרצה ובכלי אבטחה פתוחים כנכסים הגנתיים – ולא כגורמי סיכון. היא מזהירה כי הגבלות גורפות על טכנולוגיות אלה עלולות להחליש את יכולות ההגנה ולרכז את התלות בידי מספר מצומצם של ספקים סגורים.

אנשי אנבידיה כתבו כי "מודלים פתוחים חיוניים לאבטחת סייבר, משום שהם מעניקים דמוקרטיזציה ליכולות ההגנה, מגבירים את השקיפות עבור המגינים, מאפשרים הגנה בסייבר תוך הגנה על נתונים ומשלימים מודלים סגורים בגבולות עם בקרות מקומיות, שניתנות להתאמה אישית".