בטיחות AI

שורה של אנשים שעוסקים בבינה מלאכותית ביום יום חתמו על עצומה שקוראת לממשלות להאט את קצב התפתחותה, בשל הסכנות שטמונות בה ● ממה הם חוששים? ● וגם: האם ישראל תהיה מעצמת שבבים?

סקר עדכני חשף כי למרות אימוץ נרחב של הטכנולוגיה, חוסר האמון בה מעמיק ● רוב הנסקרים תמכו בחקיקה שתעביר חצי ממניות חברות הענק לקרן מדינתית, בצל חששות מעתיד התעסוקה

החוקרים מאונ' פנסילבניה חשפו כיצד טקטיקות שכנוע אנושיות גורמות למודלי AI, כמו GPT-4o Mini, לחרוג מהכללים שנקבעו להם ● האם ה-AI פגיעה למניפולציות בדומה לבני אדם? כך נראה, על סמך הממצאים המדאיגים

בדיקות של OpenAI ואנת'רופיק גילו כי מודלי הבינה המלאכותית המתקדמים שלהן מוכנים לסייע ביצירת פצצות ונשק ביולוגי וגם בפריצות סייבר ● שוב התברר כי בהיעדר רגולציה בתחום - הכל אפשרי

החוקרים התאחדו במאמץ נואש להבין את ה"מחשבות" שמניעות את הטכנולוגיה המתקדמת, וזאת בזמן שמומחים מזהירים כי חלון ההזדמנויות הייחודי לניטור תהליכי החשיבה של הבינה המלאכותית - עלול להיסגר בקרוב

בבדיקות אחרונות שערכה חברת אנת'רופיק - הנתמכת על ידי אמזון - על המודל החדיש ביותר שלה, Claude Opus 4, הראה כלי ה-AI מוכנות ללכת רחוק כדי לשרוד, כולל איומים אישיים על עובד שבסך הכל רצה להחליף אותו