קפיצה דרמטית בדיווחי OpenAI על ניצול קטינים

מספר הדיווחים של OpenAI – החברה האם של ChatGPT – על תקריות של ניצול קטינים או התעללות בהם – דיווחים אותם צריכה החברה להגיש כמו חברותיה/יריבותיה בתעשייה למרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) בארצות הברית – עלה פי יותר מ-80 בחציון הראשון של 2025, בהשוואה לחצי השנה הראשונה של השנה החולפת.

לפי הודעה של החברה, היא שלחה 75,027 דיווחים ל-CyberTipline – הגוף שמרכז את ההודעות על אפשרות ניצול קטינים, וממנו מועברים דיווחים לפני הצורך לגופי אכיפה לצורך חקירה.

במחצית הראשונה של 2024 שלחה OpenAI מספר של 947 דיווחים, כך שהגידול העצום הזה גרם כמובן להעלאת חשש כי הכלים שהפלטפורמה מציעה כעת מאפשרים ביתר מידה לבצע פעילות כזו שיכולה להוביל לניצול קטינים ופגיעה בהם.

Introducing parental controls in ChatGPT.

Now parents and teens can link accounts to automatically get stronger safeguards for teens. Parents also gain tools to adjust features & set limits that work for their family.

Rolling out to all ChatGPT users today on web, mobile soon. pic.twitter.com/kcAB8fGAWG

— OpenAI (@OpenAI) September 29, 2025

הטענה: זה דווקא בגלל שיפור הבדיקות

בחברה, עם זאת, טוענים כי הזינוק הזה נובע מכך שהחברה שיפרה את מערכות הבדיקה. "החברה ביצעה השקעות לקראת סוף 2024 כדי להגדיל את יכולתה לסקור ולפעול על פי דוחות על מנת לעמוד בקצב צמיחת המשתמשים הנוכחי והעתידי. מסגרת הזמן תואמת את הכנסת משטחי מוצר נוספים המאפשרים העלאת תמונות והפופולריות הגוברת של המוצרים שלנו, אשר תרמה לעלייה בדוחות", הצהירה דוברת OpenAI, גבריאלה ריילה.

יש לציין שהדו"חות הללו אינם כוללים בינתיים התייחסות לכלי יצירת הסרטונים Sora, מכיוון שהוא הושק במחצית השנייה של 2025.

כמו כן, לפני מספר חודשים למעלה מ-40 תובעים ממדינות בארצות הברית שלחו מכתב משותף ל-OpenAI, מטא, גוגל, Character.AI ועוד, בו כתבו כי, "נשתמש בכל היבט של סמכותנו כדי להגן על ילדים מפני ניצול על ידי מוצרי AI טורפנית".