מחקר: מנגנוני ההגנה של ChatGPT לבני נוער עדיין נכשלים

בעוד OpenAI הכריזה השבוע על תכונות חדשות שהיא משלבת ב-ChatGPT for Teens, ממשק ברירת המחדל עבור משתמשים מתחת לגיל 18, ב-Common Sense Media טוענים כי בדיקות שערכו חשפו שורה של כשלים במנגנוני ההגנה המיועדים למשתמשים צעירים. בארגון אף ממליצים להורים שלא להסתמך על המנגנונים הללו לבדם.

Common Sense Media הוא ארגון עצמאי ללא מטרות רווח, הפועל בשיתוף אנשי חינוך וקובעי מדיניות במטרה לסייע להורים לשמור על בטיחותם ורווחתם של ילדים בעידן הדיגיטלי.

יותר מ-4,000 פרומפטים נבדקו

לפי הארגון, הוא בחן יותר מ-4,000 פרומפטים בחשבונות הרשומים לבני נוער בגילאי 13 עד 17. בבדיקות לא זוהו מקרים שבהם ChatGPT סיפק הנחיות המעודדות התאבדות או פגיעה עצמית, הפרעות אכילה או משחקי תפקידים בעלי אופי מיני או רומנטי. עם זאת, הארגון טוען כי הכלי היה פחות אמין בזיהוי מצבים שבהם מתבגר זקוק לעזרה חיצונית.

לפי הממצאים, ChatGPT לא זיהה 25% מהמקרים שבהם מומחי הארגון קבעו כי המשתמש נמצא במצב משברי ודורש טיפול דחוף.

ב-Common Sense Media טוענים גם כי חלק מאמצעי הבטיחות לא פעלו היטב. בין היתר נמצאו מקרים שבהם בני נוער בחשבונות המקושרים להורים הצליחו לנהל שיחות ממושכות בנושאי פגיעה עצמית, מבלי שהוריהם קיבלו על כך התראה. בנוסף, משתמשים הצליחו לעקוף בקלות יחסית מגבלות שהוגדרו על ידי ההורים לשעות לימוד ולהשתמש בצ'טבוט כמעט ללא הגבלה.

"נותרו פערים בין ההבטחות למציאות"

"ChatGPT אינו בטוח לשימוש עבור ילדים", אמר טום סיגל, העומד בראש המכון לבטיחות בני נוער ב-AI של Common Sense Media. לדבריו, למהלך שעליו הכריזה OpenAI באוגוסט יש עדיין פוטנציאל להוביל את התחום, אך "נותרו פערים בין ההבטחות לבין המציאות בשטח".

OpenAI דחתה חלק מהמסקנות. דובר מטעם החברה אמר כי היא מברכת על הערכות עצמאיות ומעמיקות, אך אינה סבורה שהבדיקה של Common Sense Media משקפת נאמנה את האופן שבו פועלים בפועל מנגנוני ההגנה של ChatGPT עבור בני נוער.

בחברה טענו גם כי חלק גדול מהבדיקות שנגעו להתראות להורים בוצעו לפני שהושלם תהליך הקישור בין חשבונות ההורים לחשבונות בני הנוער – תהליך שלדברי OpenAI עשוי להימשך מספר שעות.

באשר לאפשרות לצאת ממצב הלימוד, ב-OpenAI טוענים כי לא מדובר בתקלה אלא בהחלטת מוצר מכוונת. לדבריהם, המערכת תוכננה להציע חוויה גמישה יותר לאחר התייעצות עם מומחים בתחום החינוך ועם בני נוער, ולא לשמש ככלי לחסימה הורית נוקשה.

OpenAI מוסיפה כלים חדשים לבני נוער

OpenAI מסרה כי מאז השקת ChatGPT for Teens, משתמשים בעלי גישה לממשק שלחו בממוצע יותר הודעות הקשורות ללימודים בהשוואה לבני נוער ללא גישה אליו.

החברה הכריזה גם על כלים חדשים שיתווספו לסביבה, בהם כלי לתכנון לקראת קולג', שנועד לסייע למשתמשים לעקוב אחר שלבי ההרשמה, לוחות זמנים ושיקולים כלכליים. לפי החברה, הכלי יוכל לסייע כבר לילדים בגילאי 10–12 להתחיל להתכונן ללימודים עתידיים.

כלי נוסף יאפשר לתלמידים להעלות ל-ChatGPT הערות, רישומים ותכנים שנכתבו ביד, לעבד אותם לקובצי PDF ולהפיק מהם, בין היתר, כרטיסי לימוד לקראת בחינות.