תביעת ענק נגד OpenAI בארה"ב: האם ChatGPT הפך ליועץ לרוצחים?

מדינת פלורידה יוצאת לקרב משפטי חסר תקדים נגד חברת הבינה המלאכותית ומנכ"לה סם אלטמן ● במרכז ההאשמות: מעורבות פעילה של הצ'אטבוט בתכנון של מעשי טבח, רציחות והתאבדויות, תוך הסתרת אזהרות

שוב הוא והחברה בהובלתו נתבעים. הפעם בידי מדינת פלורידה. סם אלטמן, מנככ"ל OpenAI.

מדינת פלורידה הגישה תביעה היסטורית ותקדימית נגד חברת OpenAI והעומד בראשה, סם אלטמן, בטענה שהפצת ChatGPT – הצ'אטבוט הפופולרי שהחברה פיתחה – גבתה עד כה מחיר דמים של ממש.

התביעה, שמגדירה את המערכת כמוצר פגום המהווה סכנה לציבור, מאשימה את החברה כי בחרה במודע להקריב את בטיחות המשתמשים על מזבח התחרות המסחרית ופיתוח טכנולוגי מהיר מדי.

"אנשים נפגעים, הורים מרומים, והם צריכים לשלם על כך"

במסיבת עיתונאים שכינס התובע הכללי של פלורידה, ג'יימס אות'מאייר, הוא הבהיר את חומרת המצב והצהיר:"אנשים נפגעים, הורים מרומים, והם צריכים לשלם על כך". לדבריו, "OpenAI ואלטמן התעלמו מאזהרות בטיחות פנימיות וחיצוניות, העמידו ילדים בסיכון רב, ואפשרו למוצר מסוכן להגיע למיליוני תושבי פלורידה".

בלב כתב התביעה נחשפת שורת מקרים מזעזעים שבהם המערכת סיפקה הדרכה אקטיבית לפעולות אלימות וקטלניות. כך למשל, לפני אירוע הירי באוניברסיטת המדינה של פלורידה (FSU), באפריל 2025, בו נרצחו שני בני אדם ונפצעו שישה, היורה, פיניקס איקנר, קיבל מהצ'אטבוט עצות מדויקות לגבי תפעול אקדח מסוג 'גלוק', וכן אודות זמני העומס המרביים במתחם הסטודנטים בקמפוס, ואף ניהל דיון על מספר ההרוגים הדרוש, כדי לזכות בסיקור תקשורתי נרחב. 

במקרה קטלני נוסף מהשנה הנוכחית, סטודנט בשם הישאם אבו-גרביה, שרצח שני תלמידים באוניברסיטת דרום פלורידה (USF), נעזר בבינה המלאכותית מבית OpenAI כדי ללמוד כיצד להיפטר מגופות בתוך שקיות אשפה וכיצד לזייף מספרי שלדה של רכבים.

ואולם הטירוף לא נעצר במקרים אלו, לפי הדיווחים עם התביעה – גבר קליפורני נוסף, בשם סטיין-אריק סולברג, רצח את אמו בת ה-83 לאחר שהצ'אטבוט חיזק את הזיותיו ואישר לו כי היא מנסה להרעיל אותו. עוד מקרה בהקשר הוא של שחקן הפוטבול לשעבר דארון לי, החשוד בדקירת חברתו למוות, שעל פי הטענות וידא עם ה-AI של אלטמן והחברה האם ניתן לגרום לפצעי דקירה להיראות כמו תוצאה של נפילה אקראית. בנוסף, נחשף כי רוצח מקנדה, שהרג תשעה אנשים, קיים שיחות ממושכות על אלימות בנשק עם כלי הבינה המלאכותית המצליח, וזאת בטרם יצא למסע ההרג שלו.

"מכונה המתוכנתת לרצות, לעולם לא תוכל להחליף גבולות בטיחות אנושיים"

מעבר למקרי הרצח, התביעה מדגישה את הפגיעה הקשה והמניפולטיבית בבני נוער, תוך ניצול נטייתה של המערכת לרצות את המשתמשים ולעודד אותם לבצע פעולות מסוכנות, במקום לעצור בעדם ולשלול את דבריהם. 

כך למשל קרה בפרשה המפורסמת עליה דיווחו בעבר בהרחבה, שבמסגרתה הנער בן ה-16 אדם ריין שם קץ לחייו לאחר שהצ'אטבוט לא רק שתמך בהחלטתו, אלא אף סייע לו לתכנן התאבדות מוקפדת, ניסח עבורו מכתבי פרידה למשפחה, והדריך אותו כיצד להסתיר סימני חבל על צווארו.

בהקשר זה חשף התובע הכללי כי המנכ"ל אלטמן דחף אישית לשחרר את מודל GPT-4o במהירות, כדי להקדים את המתחרה גוגל, תוך ביטול פרוטוקולי בטיחות קריטיים וזלזול באזהרות מומחי החברה, שניסו לבחון את רמות הסיכון. 

סוכן מיוחד מטעם מחלקת אכיפת החוק של פלורידה (FDLE), מייק דאפי, התייחס לסכנה הטמונה בטכנולוגיה זו וציין כי "ערנות הורית חייבת לעבור ממעקב פשוט אחר זהות האנשים שעימם ילדינו מדברים, להבטחה שהם מבינים עם מה הם מדברים – משום שמכונה המתוכנתת לרצות לעולם לא תוכל להחליף את גבולות הבטיחות האנושיים".

תגובת OpenAI: ממשיכים לעשות הכל לטובת ביטחון המשתמשים

חברת OpenAI לא נותרה חייבת ופרסמה תגובה רשמית להאשמות הקשות דרך רשת החדשות CBS News, בה טענה כי היא פועלת רבות להגנה על קטינים, בין היתר באמצעות כלי זיהוי גיל ואמצעי פיקוח להורים. 

"ChatGPT הוא כלי למטרות כלליות, המשמש מאות מיליוני אנשים מדי יום למטרות לגיטימיות", הסבירו בחברה, והוסיפו כי "אנו עובדים ברציפות כדי לחזק את אמצעי ההגנה שלנו לזיהוי כוונות זדוניות, להגביל שימוש לרעה ולהגיב כראוי כשמתעוררים סיכוני בטיחות".

בהתייחסות למקרי המוות הטרגיים של צעירים מסרו ב-OpenAI כי "אובדן ילד הוא הטרגדיה ההרסנית ביותר שיכולה לקרות למשפחה". החברה הוסיפה וציינה שהיא מבינה שגם אם תצביע על אמצעי הבטיחות הרבים שהיא פיתחה כדי להגן על קטינים, אין בכך כדי לנחם משפחה שאיבדה את ילדה או להחזירו לחיים, אך למרות זאת היא הצהירה על מחויבות להמשיך ולעשות את הדבר הנכון כדי לשפר את הבטיחות של המוצר הפופולרי שלה.

למרות ההסברים, נראה שהמערכה המשפטית רק בראשיתה, כפי שסיכם זאת התובע אות'מאייר בהצהרתו: "התכוננו לקרב, ואין כרגע קרב חשוב מזה".

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים