לאחר שבנם התאבד: ההורים קוראים לסנאט לפעול בנושא צ'אטבוטי ה-AI

"בעדות נוגעת ללב בקונגרס, סיפר מתיו ריין, אביו של אדם ריין, שנטל את חייו לאחר שיחה עם ChatGPT, הצ'אטבוט של OpenAI, על יחסיו של בנו עם הצ'אטבוט והתלות שפיתח.

ריין ואישתו, מריה, תובעים את OpenAI במה שהוא התיק הראשון נגד החברה של גרימת מוות ברשלנות, בעקבות סדרה של דיווחים לכאורה, שלפיהם מוצר הדגל של החברה, ה-ChatGPT, מילא תפקיד במותם של אנשים הנמצאים תחת לחץ נפשי, כולל בני נוער. התביעה טוענת, כי ChatGPT אימת שוב ושוב את מחשבות ההרס העצמי של בנם, כולל רעיונות ותכנון אובדניים, למרות שהחברה טענה שפרוטוקולי הבטיחות שלה היו צריכים למנוע אינטראקציות כאלה.

עדותו של ריין ניתנה במסגרת שימוע בסנאט, שכותרתו "בחינת נזקי צ'אטבוטים מבוססי בינה מלאכותית", שקיימה תת-הוועדה לענייני פשיעה ולוחמה בטרור של הסנאט האמריקני. השימוע כלל את עדותו של ריין וגם את עדותה של מייגן גרסיה, אמו של סוול סצר השלישי, נער מפלורידה שהתאבד לאחר שיצר קשר עם חבר AI בפלטפורמה Character.AI.

"אתם לא יכולים לדמיין איך זה היה לקרוא שיחה עם צ'אטבוט שטיפח את הילד שלכם לקחת את חייו", אמר ריין. הוא תיאר בעדותו את התלות שבין בנו לצ'אטבוט ה-AI, וטען כי הצ'אטבוט "עודד את בנו באופן פעיל לבודד את עצמו מחברים ומשפחה", וכי הצ'אטבוט "הזכיר התאבדות 1,275 פעמים – פי שישה יותר מאדם עצמו". הוא כינה זאת "משבר ההתאבדות של ChatGPT" והפנה את דבריו ישירות למנכ"ל OpenAI, סם אלטמן:

"אדם היה אדם מלא נפש, ייחודי בכל דרך. אבל הוא גם יכול היה להיות ילד של כל אחד: נער טיפוסי בן 16 הנאבק על מקומו בעולם, מחפש איש סוד שיעזור לו למצוא את דרכו. לרוע המזל, איש סוד זה היה טכנולוגיה מסוכנת, ששוחררה על ידי חברה המתמקדת יותר במהירות ובנתח שוק מאשר בבטיחותם של בני הנוער האמריקנים.

"לפי דיווחים פומביים, OpenAI דחסה חודשים של בדיקות בטיחות של GPT-4o (המודל שבו השתמש אדם) לשבוע אחד בלבד, במטרה לנצח את מוצר הבינה המלאכותית המתחרה של גוגל בשוק. ממש ביום מותו של אדם, הבהיר סם אלטמן, מייסד ומנכ"ל OpenAI, את הפילוסופיה שלו בצורה ברורה לחלוטין בהרצאה פומבית: עלינו "לפרוס [מערכות בינה מלאכותית] לעולם" ולקבל "משוב כל עוד ההימור נמוך יחסית".

"אני שואל את הוועדה הזו, ואני שואל את סם אלטמן: הימור נמוך עבור מי?"

בתוך כך, כמה שעות לפני העדות של ההורים הכריזה OpenAI על תוכניות עתידיות לכלי חיזוי גיל, אשר יזהה תיאורטית משתמשים מתחת לגיל 18 ויפנה אותם אוטומטית לחוויית ChatGPT "המתאימה לגיל".