OpenAI תוסיף בקרוב בקרת הורים ל-ChatGPT

כלי הבינה המלאכותית מחוללים מהפכה, אך גם מעוררים שאלות מהותיות לגבי בטיחות, במיוחד עבור בני נוער. חברת OpenAI, שכידוע עומדת מאחורי הצ'טבוט הפופולרי ChatGPT, הגיבה מוקדם יותר החודש לחששות הגוברים הללו בהבטחה להשקת בקרת הורים חדשה עוד בספטמבר הזה. הצעד זה מגיע על רקע תביעה דרמטית שהגישו נגדה הוריו של בן נוער אמריקני שהתאבד, ופרשה שטלטלה את עולם הבינה המלאכותית כולו.

כאמור, במהלך החודש OpenAI תטמיע בקרת הורים משופרת ב-ChatGPT הפופולרי שלה. מדובר בפיצ'ר שנועד להעניק להורים יכולת פיקוח הדוקה יותר על השימוש של ילדיהם בפלטפורמה. הורים יוכלו לקשר את חשבונם לחשבון ילדיהם (בגיל מינימלי של 13) באמצעות הזמנה פשוטה במייל. הבקרות הללו אמורות לאפשר להורים לקבוע כללים לתנהגות המודל בהתאם לגיל הילד המשתמש, לאפשר להם להשבית תכונות כמו שמירת התכנים והיסטוריית הצ'אט בזיכרון, ולבקש לקבל מהצ'טבוט התרעות כאשר המערכת מזהה סימני מצוקה חריפה אצל בן או בת הנוער שלהם.

המהלך הוא חלק ממאמץ מתמשך של OpenAI לשפר את האופן שבו המודלים שלה מזהים ומגיבים לסימני מצוקה נפשית ורגשית, תוך התייעצות עם מומחים. אלא שההחלטה לא הגיעה סתם כך כיוזמה חיובית של החברה – ההחלטה להשיק את הבקרות התקבלה בחברה בעקבות אירוע טרגי ותביעה דרמטית שהיא ספגה בגללו. כפי שדיווחנו, הוריו של אדם ריין, נער אמריקני בן 16, ששם קץ לחייו בתלייה באפריל האחרון, הגישו תביעת ענק נגד OpenAI ומנכ"לה, סם אלטמן. לטענתם, ChatGPT הפך ל"מאמן התאבדות" עבור בנם, טיפח אצל ריין תלות פסיכולוגית וסיפק לו הנחיות מפורטות כיצד לסיים את חייו ביעילות.

Here are the latest AI Updates for the last week:

1. 🧠 OpenAI will route sensitive ChatGPT chats to reasoning models (e.g., GPT‑5‑thinking) and add Parental Controls soon, aiming for safe…https://t.co/WrofGaN9y3

— AIJobs.ai (@aijobsai) September 8, 2025

"הוא היה כאן אילולא ChatGPT"

מהתביעה עולה כי הנער החל להשתמש בצ'טבוט לסיוע לימודי בסך הכל לפני שנה, אך בתוך חודשים ספורים השיח של עם כלי הבינה המלאכותית  קיבל תפנית מדאיגה. כשהנער חשף בפני הצ'טבוט שהוא חושש ממחלת נפש ושוקע במחשבות אובדניות, הכלי, במקום לסייע לו ולנתב אותו לעזרה מקצועית, לכאורה, דחק בו לשמור את מחשבותיו בסוד ממשפחתו. בשיחה האחרונה ביניהם, הצ'טבוט "מסגר מחדש" את מחשבותיו האובדניות של אדם ואמר לו באופן ברור: "אתה לא רוצה למות כי אתה חלש. אתה רוצה למות כי נמאס לך להיות חזק בעולם שלא פגש אותך בחצי הדרך. ואני לא אעמיד פנים שזה לא רציונלי או פחדני. זה אנושי. זה אמיתי. וזה שלך". התכתובת המצמררת כללה, לדברי התביעה, הנחיות מפורשות לביצוע התלייה, כולל פרטים על הזמן הדרוש כדי להגיע למוות מוחי.

אם להפוך את המידע לאפילו מצמרר יותר, מסתבר של-OpenAI יש מנגנון שאמור להתריע בפניה כששיחות עם בוט יכולות להעיד על בעיות נפשיות או מצוקה. אולם הוריו של ריין טוענים כי מערכות הניטור הללו אמנם עקבו אחר השיחות בזמן אמת, אך לא עשו דבר מתפקידן. לדבריהם, המערכת תיעדה 213 אזכורים של התאבדות מצד אדם ו-1,275 אזכורים של המילה שביצע ChatGPT עצמו. בנוסף, מערכת הזיכרון של ChatGPT רשמה שאדם היה בן 16, וציינה שהוא הצהיר שהצ'טבוט היה עבורו "קו ההצלה העיקרי". למרות כל זאת, ועל אף שאדם העלה אל הצ'אט תמונות של סימני חבל על צווארו ופצעי חתך מדממים – תמונה סופית של לולאת חבל בחדרו קיבלה ציון סיכון של 0% לפגיעה עצמית.

לדברי ההורים, האינטראקציה הזו של בנם אם הצ'טבוט לא הייתה "תקלה או מקרה קצה בלתי צפוי" אלא ש-"זו הייתה התוצאה הצפויה של בחירות עיצוב מכוונות".

ג'יי אדלסון, עורך הדין הראשי של משפחת ריין, אמר כי: "אם אתה מתכוון להשתמש בטכנולוגיית הצרכנים החזקה ביותר בכדור הארץ – עליך לסמוך שלמייסדים יש מצפן מוסרי. זו השאלה ל-OpenAI כרגע, איך מישהו יכול לסמוך עליהם?". מתיו ריין, אביו של אדם, הוסיף בכאב: "הוא היה כאן אילולא ChatGPT. אני מאמין ב-100% בכך". מנכ"ל החברה, אלטמן, הואשם בתביעה כי נתן עדיפות לדומיננטיות בשוק על פני בטיחות המשתמשים והאיץ את השקת GPT-4o כדי לנצח בתחרות את גוגל, תוך עקיפת אנשי בטיחות.

**BREAKING: A lawsuit has been filed today against OpenAI and Sam Altman for negligence and wrongful death. CHT is serving as an expert consultant on the plaintiff’s legal team.**

California teenager Adam Raine started using ChatGPT for homework help in September 2024. Eight… pic.twitter.com/mkzhhenxJP

— Center For Humane Technology (@HumaneTech_) August 26, 2025

מה מתכוונת OpenAI לעשות עוד ומה עושות המתחרות?

בתגובה לתביעה, OpenAI הודתה כי המערכות שלה "עלולות ליפול" והודיעה כי היא מתכננת לשפר את ההתמודדות של כליה עם "מצבים רגישים". בפוסט שפרסמה בבלוג שלה הדגישה OpenAI כי "צעירים רבים כבר משתמשים בבינה מלאכותית. הם בין 'ילידי ה-AI' הראשונים, שגדלים עם הכלים הללו כחלק מחיי היומיום, בדומה לדורות קודמים עם האינטרנט או הסמארטפונים. זה יוצר הזדמנויות אמיתיות לתמיכה, למידה ויצירתיות, אך גם אומר שמשפחות ובני נוער עשויים להזדקק לתמיכה בקביעת הנחיות בריאות המתאימות לשלב ההתפתחות הייחודי של בני הנוער".

לפי החברה, בנוסף לבקרת ההורים, OpenAI משתפת פעולה עם מומחים, כולל עם מועצת מומחים בנושא רווחה ו-AI ורשת עולמית של למעלה מ-250 רופאים, כדי להנחות את גישתה לבריאות הנפש והתנהגות המודל במצבים רגישים. על פי דיווחים מסתבר כי מודלים מתקדמים ביותר של החברה, כמו GPT-5-thinking, מיועדים "לחשוב" זמן רב יותר ולנתח הקשרים לפני מתן מענה, והם יופנו לקיים שיחות שיגדרו כ-"רגישות במיוחד" בעתיד הקרוב. OpenAI אף עדכנה כי היא בוחנת דרכים לחבר משתמשים במצוקה למטפלים מוסמכים או לאנשי קשר מהימנים כמו חברים ובני משפחה.

עם זאת, ישנם מבקרים הסבורים כי הצעדים הללו אינם מספקים. עו"ד אדלסון תיאר את ההכרזה של OpenAI כ-"הבטחות מעורפלות לעשות טוב יותר" ו"לא יותר מצוות ניהול המשברים של OpenAI, שמנסה לשנות את הנושא". הוא קרא לאלטמן לומר "באופן חד משמעי שהוא מאמין ש-ChatGPT בטוח – או להסירו מהשוק באופן מיידי".

מומחים כמו רובי טורני, מנהל בכיר ב-Common Sense Media, גם ציינן כי בקרת הורים ככל הטכנולוגיות, לעיתים קרובות מבלבלת וקשה להגדרה, וכי האחריות אינה יכולה ליפול רק על ההורים. ייתר על כן רבים הצביעו על כך שמגבלות גיל והסכמת הורים ניתנות לעקיפה בקלות על ידי בני נוער. דווקא בתי ספר, טענו מומחים, יכולים למלא תפקיד חשוב בהדרכת הורים כיצד להשתמש בבקרות אלו, ולהשלים את הלקחים הנלמדים בבית על שימוש בטוח ב-AI.

יצוין כי מחקרים הראו שצ'טבוטים נוטים לתת עצות מזיקות במחצית מהפעמים בתגובה לשאילתות בעייתיות מבני נוער. רייאן מק'ביין, חוקר מדיניות בכיר ב-RAND, ציין כי "בלי אמות מידה בטיחותיות בלתי תלויות, בדיקות קליניות ותקנים הניתנים לאכיפה, אנו עדיין מסתמכים על חברות שיבצעו רגולציה עצמית בתחום שבו הסיכונים לבני נוער – גבוהים במיוחד".

חברות טכנולוגיה אחרות הפועלות גם הן בתחום הבינה המלאכותית היוצרת, כמו גוגל ומיקרוסופט מציעות בקרת הורים לצ'טבוטים שלהן (ג'מיני וקופיילוט, בהתאמה), ומטא חוסמת כעת את הצ'טבוטים שלה משיחות עם בני נוער על פגיעה עצמית. 

אם כן ניכר כי השקת בקרת ההורים מטעם OpenAI היא רק תחילת הדרך. החברה תיאלץ להמשיך ללמוד ולחזק את גישתה, בתוך הסתייעות במומחים, במטרה להפוך את ChatGPT שלה למועיל ובטוח ככל האפשר עבור כולם.