ג'ייקוב קוקסון

הכשלים, הסוכנים הסוררים והחשש מאובדן שליטה על ה-AI: עובדי עבר בענקיות הטק העוסקות בתחום הגיעו למועצת העיר ניו יורק להתריע, מאחר שמחוקקים מקומיים מקדמים רגולציה קשוחה, לעומת אוזלת היד הפדרלית

בדיקה פנימית שביצעה ענקית ה-AI חשפה טיפול לקוי במידע רגיש והובילה להדחת עובדי מפתח, כל זאת בזמן שהחברה מתמודדת עם תקריות אבטחה של סוכנים עצמאיים וסוררים וביקורת נוקבת על התרבות הארגונית שלה

מייסד מיקרוסופט הזהיר כי פיקוח עצמי אינו מספיק ומערכות ללא רסן עלולות לגרום אסון גלובלי ● הנשיא טראמפ דווקא לא בעניין וסבור שהרגולציה תשרת את סין, ואילו ראשי תעשיית הטכנולוגיה בכלל קוראים להאטת הפיתוח

לקראת המפגש המכריע בין וושינגטון לבייג'ינג, ענקית הבינה המלאכותית קוראת להנהגה אמריקנית בכל הקשור בקביעת נורמות בטיחות בינלאומיות, וזאת בזמן שהמעצמות מנסות למנוע אירועי סייבר אוטונומיים מסוכנים

נשיא ארה"ב הציע שמות חלופיים לטכנולוגיה החדשנית והמשבשת, הציג סקר גולשים, והכריז על מינוי צאר ייעודי לתחום - זאת אחרי שהדף בשבוע שעבר את הקריאות להאטת פיתוח ה-AI ובעקבות השקת פלטפורמת מחשוב לאומית

התפתחות ה-AI מעוררת חששות כבדים בקרב מדענים ובכירים בתעשייה ● בזמן שהמרוץ הטכנולוגי מאיץ, בעיית ההתאמה והבטיחות הופכת למשימה קיומית שבה לישראל יכול להיות יתרון יחסי

נשיא ארה"ב הבהיר כי על אף אזהרות דרמטיות שהשמיעו מנכ"ל אנת'רופיק וחוקרים שהתפטרו מפני סכנת אובדן שליטה קטסטרופלי, החשש מפיגור מול סין גובר על הסיכונים, וסירב לבלום את מרוץ הפיתוח

התיאור הדרמטי - שעולה מהתרעותיהם של פול כריסטיאנו, ג'ייקוב קוקסון וחוקרים נוספים - מתאר תרחיש שבו האנושות מאבדת לצמיתות את היכולת לנטר, להגביל או להכתיב את מטרותיהן של מערכות ה-AI הסופר-אינטליגנטיות