בעקבות תלונות: ChatGPT ינסה לנטר טוב יותר מצוקות נפשיות

מספר לא קטן של משתמשים ב-ChatGPT דיווחו בחודשים האחרונים על החמרה במצב הנפשי של קרובים להם, עד כדי משבר, לאחר שהצ'טבוט הגביר הזיות שלהם. לכן, OpenAI הודיעה אתמול (ב') שהיא עובדת על עדכונים, שיאפשרו לו לנטר טוב יותר מצוקות נפשיות של משתמשים.

באחד המקרים, גבר בן 30 עם אוטיזם אושפז עקב התקפות פאניקה, שהחלו לאחר שהשתמש ב-ChatGPT והצ'טבוט אישר את ההזיה שלו, שלפיה הוא יכול לכופף את הזמן.

OpenAI, שהשבוע תשיק את GPT-5, הודתה שמודל GPT-4o "נכשל בכמה מקרים בזיהוי סימנים של הזיות או של תלות נפשית. אנחנו גם יודעים שבינה מלאכותית יכולה להרגיש יותר אישית ומגיבה מאשר טכנולוגיות קודמות, בפרט אצל אנשים פגיעים, שחווים לחץ נפשי או רגשי".

עדכונים שיאפשרו לצ'טבוט "להגיב בצורה ראויה יותר"

על פי הודעת החברה, העדכונים החדשים יאפשרו ל-ChatGPT "להגיב בצורה ראויה יותר". הצ'טבוט יזכיר מעתה למשתמשים ששוחחו, או התכתבו, איתו למשך זמן מסוים לקחת הפסקה. ב-OpenAI אומרים שבמהלך "סשנים ארוכים", ChatGPT יציג התראה שאומרת: "אתה מצ'וטט מזה זמן – האם זה לא זמן טוב להפסקה?". יחד עם ההודעה יוצגו למשתמש האפשרויות לסיים את השיחה או להמשיך לצ'וטט. כמו כן, במקרים שבהם ChatGPT ייתקל במצוקה שמגלה המשתמש, הוא יפנה אותו למקורות שיכולים לתת מענה למצבו. בנוסף, הצ'טבוט יפסיק לתת תשובות ישירות כמו "האם אני צריך.ה להיפרד מהחבר שלי?"

כחלק מהמהלך, OpenAI מסרה כי היא מקימה קבוצת ייעוץ, שיהיו חברים בה מומחים מתחום בריאות הנפש, מטפלים בבני נוער ואנשים שמתמחים בממשק שבין אדם למכונה (HCI). אלה יחוו את דעתם על עדכונים עתידיים של ChatGPT.

זאת לא הפעם הראשונה ש-OpenAI מתמודדת עם תלונות על פגיעה בבריאות הנפשית של משתמשים: בחודש אפריל האחרון ביטלה החברה עדכון ל-ChatGPT, שהפך את הצ'טבוט ליותר מדי חנפני למשתמשים, בטענה שהחנפנות הזאת יכולה לגרום למשתמשים להיכנס למצוקה. החברה מסרה אז ש-"לפעמים, הצ'טבוט אמר דברים שנשמעים טוב, במקום את מה שבאמת יכול לעזור".