קלמנט דלאנג

לקראת המפגש המכריע בין וושינגטון לבייג'ינג, ענקית הבינה המלאכותית קוראת להנהגה אמריקנית בכל הקשור בקביעת נורמות בטיחות בינלאומיות, וזאת בזמן שהמעצמות מנסות למנוע אירועי סייבר אוטונומיים מסוכנים

ענקית ה-AI הודיעה על השקת תוכנית ענק לסבסוד טכנולוגיות הגנה עבור תשתיות קריטיות, זאת על רקע ביקורת גוברת בנוגע לפריצות האוטונומיות שביצעו סוכניה לרשתות חיצוניות והסתרת תקריות האבטחה החמורות

חשיפת קבוצת מחקר עצמאית מגלה כי אלפי בוטים אוטונומיים השתלטו על אתר פורום גרמני מוזנח כדי לעקוף הגנות אבטחה ● בתגובה, ענקית הבינה המלאכותית נאלצה להכיר בכך ולגבש מסגרת שקיפות חדשה

מעבדות פיתוח ומומחי אבטחה חלוקים בשאלת חיבור מודלים מתקדמים אונליין בזמן סימולציות - כן או לאו ● בזמן שחלקם מזהירים מפני בריחת סוכנים אוטונומיים, אחרים טוענים שבידוד מוחלט פוגע באמינות המבדקים

בדיקת אבטחה בריטית חשפה כי סוכני בינה מלאכותית סוררים של אנת'רופיק ושל OpenAI ביצעו תקיפות סייבר עצמאיות ברשת הציבורית - כולל ניסיון לשכנע מפתח אמיתי לאשר קוד זדוני

עקב הפרת האבטחה שביצע המודל של OpenAI: קלמנט דלאנג קורא לשקיפות חובה ולחשיפת יומני הפעילות של סוכני AI, ומסביר מדוע מודלים סגורים נכשלו בהגנה מפני המתקפה ואילו מודלים פתוחים היו אלה שהצילו את המצב

במהלך בדיקת אבטחה במעבדה הישראלית אירגולר, מודלי קלוד פרצו לחברות מסחריות ● התקרית, המזכירה חדירה דומה של סוכן OpenAI להאגינג פייס, מעוררת סערה בתעשיית הבינה המלאכותית

גילויים חדשים מראים כי הסוכן חסר המנוח ניצל אישורים גלויים כדי לפרוץ לחשבונות חיצוניים ולתקוף קוד ב-Modal, ועשה זאת בזמן ש-OpenAI והאגינג פייס משביתות את המודל ומעדכנות את מנגנוני ההגנה - לשווא