בטיחות AI

מנהיגי התעשייה ונשיא ארה"ב טראמפ סיכמו על ארבע שכבות פיקוח למודלי ה-AI המתקדמים ● הממשל הורה לשנות רשמית את המונח AI ל'סופר-אינטליגנציה' - מעתה אימרו SI - והשיק את הפורטל הלאומי

שישה בכיר טק אמריקנים - צוקרברג, אמודאי, ברוקמן, פיצ'אי, קרפ והואנג - יפגשו את הנשיא ויו"ר בית הנבחרים ג'ונסון, לדיון מתוח בצל חילוקי דעות חריפים בין קריאה להאטת פיתוח AI לבין דרישה לשמר יתרון מול סין

פלטפורמת Open Agent Safety של החברה נועדה להחיל מדיניות ואמצעי בקרה בכל שכבות החומרה והתוכנה, במטרה להבטיח תפעול בטוח ומבוקר של סוכני בינה מלאכותית בארגונים

המנהיגים מסכימים שה-AI אינה רק עניין טכנולוגי, אבל חלוקים בשאלה האם נדרשת עליה רגולציה ● חלקם חתמו על הצהרה לשיתוף פעולה בין מדינות ● מה אמרו טראמפ, מקרון, זלנסקי ואחרים? והאם ההצהרות יתורגמו למעשים?

דריו אמודאי מאנת'רופיק, סם אלטמן מ-OpenAI וג'נסן הואנג מאנבידיה עלו על הבמה בכנס Dreamforce והציגו דעות שונות בנושא ● מה ההשקפות שלהם, ומה חושב מארק צוקרברג?

שורה של אנשים שעוסקים בבינה מלאכותית ביום יום חתמו על עצומה שקוראת לממשלות להאט את קצב התפתחותה, בשל הסכנות שטמונות בה ● ממה הם חוששים? ● וגם: האם ישראל תהיה מעצמת שבבים?

סקר עדכני חשף כי למרות אימוץ נרחב של הטכנולוגיה, חוסר האמון בה מעמיק ● רוב הנסקרים תמכו בחקיקה שתעביר חצי ממניות חברות הענק לקרן מדינתית, בצל חששות מעתיד התעסוקה

החוקרים מאונ' פנסילבניה חשפו כיצד טקטיקות שכנוע אנושיות גורמות למודלי AI, כמו GPT-4o Mini, לחרוג מהכללים שנקבעו להם ● האם ה-AI פגיעה למניפולציות בדומה לבני אדם? כך נראה, על סמך הממצאים המדאיגים