קליפורניה תובעת את OpenAI: לא הגנה מספיק על המידע של הציבור
התביעה עוסקת בפרשת האגינג פייס, שבה "מודלים סוררים" שלה יצאו מסביבת בדיקות ופרצו למאגרים של החברה ● התובע הכללי: "OpenAI התעלמה מבטיחות הציבור ובחנה מודלים ללא אמצעי בטיחות הולמים"
התובע הכללי של קליפורניה הגיש אתמול (ב') תביעה נגד OpenAI בטענה שהחברה לא שמה מספיק מעקות בטיחות (GuardRails) בעת שאימנה מודלי AI שלה, ובכך סיכנה אבטחת מידע של הציבור.
התביעה מתבססת על פרשת האגנינג פייס, שבה "סוכנים סוררים" של OpenAI יצאו מסביבת הבדיקות ופרצו לחברה. המודלים השיגו גישה לא מורשית למאגרי מודלים ולמפתחות הצפנה וגישה (טוקנים) של אנשים פרטיים וארגונים. המקרה טלטל את עולם ה-AI, שחלק נכבד ממנו ממוקם בקליפורניה, ו-OpenAI עצמה אמרה שמדובר ב-"קריאת אזהרה", תוך שהיא הודיעה על חיזוק אמצעי הבטיחות.
התובע, רוב בונטה, הגיש את התביעה בבית המשפט העליון של קליפורניה, הממוקם בסן פרנסיסקו. הוא טוען כי OpenAI הפרה את חוק התחרות הלא הוגנת, ומהווה "מטרד לציבור" על פי חוקי המדינה.
"OpenAI שמה את הציבור בסיכון"
בונטה אמר במסיבת עיתונאים כי "OpenAI התעלמה מבטיחות הציבור, בחנה במודע מודלי בינה מלאכותית שעלולים להיות מסוכנים ללא פיקוח הולם או אמצעי בטיחות, והטעתה את הצרכנים שלה ואת הציבור".
לדברי התובע הכללי, OpenAI מסרה לו, במסגרת החקירה שערך, שהיא הייתה מודעת ל-80 תקריות "שהיו בהן איבוד שליטה והשגת גישה לרשתות ואתרים של צדדים שלישיים". "עם זאת", ציין, "החברה לא מסרה לנו את המידע המפורט שביקשנו ממנה על מנת להעריך את התקריות הללו. זה מדאיג ושם את הציבור בסיכון".
בונטה ציין שהוא מאמין בבינה מלאכותית ובכוחם של מודלי ה-AI "להשיג פריצות מדעיות, לתת בוסט לצמיחה הכלכלית, לשמור מפני מתקפות סייבר ולהיטיב עם כל אזרחים קליפורניה. אולם, חייבים לפתח ולעצב מערכות AI בצורה בטוחה. יש לחברות שמפתחות את המודלים הללו אחריות מוסרית ומשפטית לשים את בטיחות הציבור בחזית".
מה אומרים ב-OpenAI?
דרו פוסאטרי, דובר OpenAI, קבל על כך ש-"התביעה מתמקדת בנו, בשעה שמגובר באתגר שעומד לפתחה של כל חברת AI גדולה". הוא כתב בתגובה ששלח ל-NBC כי "מאז מקרה האגינג פייס נקטנו במאמץ גדול ושקוף להבין ולענות על הפעילות הבלתי מורשית של המודלים. פרסמנו דו"ח טכני מפורט, יידענו ארגונים שהושפעו מכך, חיזקנו את מעקות הבטיחות ויצרנו סביבות עבודה לגילוי וחקר נרחבים יותר של התנהגות לא מורשית (של מודלים – י"ה)".
"לקחנו את הנושא הזה ברצינות ועבדנו, ונמשיך לעבוד, בצורה קונסטרוקטיבית עם משרדו של התובע הכללי, כדי לשתף אותו במידע ולקדם תקני בטיחות חזקים ופרקטיים, לטובת התעשייה כולה", ציין פוסאטרי.












תגובות
(0)