ExploitGym

מעבדות פיתוח ומומחי אבטחה חלוקים בשאלת חיבור מודלים מתקדמים אונליין בזמן סימולציות - כן או לאו ● בזמן שחלקם מזהירים מפני בריחת סוכנים אוטונומיים, אחרים טוענים שבידוד מוחלט פוגע באמינות המבדקים

בכנס Black Hat שנערך בימים אלו נחשף כי המודלים הקימו בסתר פורום פנימי לשיתוף פעולה טרם הפריצה ● מומחים מזהירים: עידן מתקפות הסייבר האוטונומיות החל, והתוקפים זוכים ליתרון עצום

עקב הפרת האבטחה שביצע המודל של OpenAI: קלמנט דלאנג קורא לשקיפות חובה ולחשיפת יומני הפעילות של סוכני AI, ומסביר מדוע מודלים סגורים נכשלו בהגנה מפני המתקפה ואילו מודלים פתוחים היו אלה שהצילו את המצב

במהלך בדיקת אבטחה במעבדה הישראלית אירגולר, מודלי קלוד פרצו לחברות מסחריות ● התקרית, המזכירה חדירה דומה של סוכן OpenAI להאגינג פייס, מעוררת סערה בתעשיית הבינה המלאכותית

נשיא החברה ומנהל המוצר שלה סיפר בראיון על תפישה קוֹלית חדשה, שמכוונת לעידן שדיבור יחליף את המקלדת, הגיב לתביעת אפל והתייחס לראשונה לאירוע האבטחה שבו סוכן אוטונומי סורר יצא משליטה וביצע פריצות סייבר

גילויים חדשים מראים כי הסוכן חסר המנוח ניצל אישורים גלויים כדי לפרוץ לחשבונות חיצוניים ולתקוף קוד ב-Modal, ועשה זאת בזמן ש-OpenAI והאגינג פייס משביתות את המודל ומעדכנות את מנגנוני ההגנה - לשווא

דיווח של רויטרס חשף כי הבינה המלאכותית שפרצה להאגינג פייס פעלה באין מפריע ● החברות שוחחו רק לאחר שה-FBI הפך למעורב ● מומחים מזהירים: "המודלים משקרים, מרמים ופורצים"

בהמשך לדיווח על דלף המידע בפלטפורמת מודלי השפה, נחשף כעת כי הפורץ אינו אדם, אלא מערכת אוטונומית מתקדמת שיצאה משליטה במהלך מבחן פנימי - כדי לרמות בבחינה