סוכנים סוררים

כשעוזרי ה-AI הארגוניים מקבלים גישה חופשית למערכות הליבה, בזירת הטק מבינים שגם המודלים המתקדמים ביותר אינם חסינים מטעויות ● הפתרון החדש מציע התמודדות עם האיום הפנימי של סוכני ה-AI בהרחבת פרויקט קיים

חברת ה-AI האמריקנית, המגובה על ידי אנבידיה, הציגה בהשקה נוצצת מודל משקולות פתוחות המבטיח יעילות חישוב חסרת תקדים ושעתיד לאתגר את ההובלה האסייתית בתחום הקוד והסוכנים

הסוכן הסורר, של OpenAI, השיג גישה לנתונים פרטיים מהפורטל של תוכנית הבריאות הממשלתית באוסטרליה ● ראש הממשלה, אנתוני אלבניזי, נזף בסם אלטמן ● מומחים מזהירים: זה המקרה הראשון - אבל ממש לא האחרון

ענקית ה-AI הודיעה על השקת תוכנית ענק לסבסוד טכנולוגיות הגנה עבור תשתיות קריטיות, זאת על רקע ביקורת גוברת בנוגע לפריצות האוטונומיות שביצעו סוכניה לרשתות חיצוניות והסתרת תקריות האבטחה החמורות

אם לא שמענו מספיק עד כה, כעת נודע כי תקלת אבטחה של מעבדת הבדיקות החיצונית הישראלית אירגולר סללה גישה פתוחה אל הרשת למודל החדיש ● האירוע מגיע בצל חששות אבטחה גוברים בוושינגטון מסוכני ה-AI העצמאיים

בכנס Black Hat שנערך בימים אלו נחשף כי המודלים הקימו בסתר פורום פנימי לשיתוף פעולה טרם הפריצה ● מומחים מזהירים: עידן מתקפות הסייבר האוטונומיות החל, והתוקפים זוכים ליתרון עצום