בטיחות AI

בדיקות של OpenAI ואנת'רופיק גילו כי מודלי הבינה המלאכותית המתקדמים שלהן מוכנים לסייע ביצירת פצצות ונשק ביולוגי וגם בפריצות סייבר ● שוב התברר כי בהיעדר רגולציה בתחום - הכל אפשרי

החוקרים התאחדו במאמץ נואש להבין את ה"מחשבות" שמניעות את הטכנולוגיה המתקדמת, וזאת בזמן שמומחים מזהירים כי חלון ההזדמנויות הייחודי לניטור תהליכי החשיבה של הבינה המלאכותית - עלול להיסגר בקרוב

בבדיקות אחרונות שערכה חברת אנת'רופיק - הנתמכת על ידי אמזון - על המודל החדיש ביותר שלה, Claude Opus 4, הראה כלי ה-AI מוכנות ללכת רחוק כדי לשרוד, כולל איומים אישיים על עובד שבסך הכל רצה להחליף אותו