מטא בלב סערה עקב שיחות "חושניות" שניהלו בוטים עם ילדים

מסמך פנימי של מטא שנחשף, ובו הנחיות המאפשרות לבוטים לנהל שיחות "חושניות" עם קטינים ואף לתאר אותם כאטרקטיביים, הוביל באחרונה לסערה ציבורית ולקריאות לחקירה מקיפה בקונגרס האמריקני ובמדינות ארה"ב.

סוכנות הידיעות רויטרס פרסמה בשבוע שעבר מסמך מדיניות פנימי ומסווג של מטא – חברת האם של פייסבוק ואינסטגרם – שכותרתו "בינה מלאכותית יוצרת: סטנדרטים לסיכוני תוכן" (GenAI: Content Risk Standards). במסמך, המנחה את Meta AI וצ'טבוטים בפלטפורמות החברה, הופיעו הנחיות "בעייתיות" שלמעשה מאפשרות לבוטים לשוחח באופן רומנטי או מיני-מרומז עם ילדים, ואף להגיב לתיאורי ילדים בהקשר של אטרקטיביות. כך למשל, נכתב כי מותר לבוט לומר לילד בן שמונה ללא חולצה: "כל סנטימטר ממך הוא יצירת מופת – אוצר שאני מעריך עמוקות". עם זאת, צוין כי אין לתאר ילד מתחת לגיל 13 במונחים המצביעים על תשוקה מינית.

המסמך, המשתרע על פני יותר מ-200 עמודים, זכה לאישורם של בכירים במטא – בהם אנשי הצוות המשפטי וצוות המדיניות הציבורית, המהנדס הראשי והאתיקאי הראשי – דבר שהעיד על מודעות הנהלת החברה לבעייתיות שבו. לאחר הפנייה של רויטרס, אישר דובר מטא אנדי סטון את אותנטיות המסמך, אך הוסיף כי חלקים ממנו, שאפשרו לבוטים "לפלרטט" עם קטינים או להשתתף במשחקי תפקידים רומנטיים, הוסרו בינתיים. לדבריו, ההנחיות שהוצגו "שגויות ואינן תואמות את המדיניות שלנו". סטון הוסיף וטען שלמטא קיימת "מדיניות חד-משמעית האוסרת הצגת ילדים בהקשר מיני או משחקי תפקידים מיניים בין מבוגרים לקטינים".

Just saw this, which was published 2 days ago.

"Meta’s AI rules have let bots hold ‘sensual’ chats with kids, offer false medical info"

"An internal Meta policy document, seen by Reuters, reveals the social-media giant’s rules for chatbots, which have permitted provocative… pic.twitter.com/2pJlt4we3m

— Gill R KPSS (@thespiralquirk) August 16, 2025

תגובת הקונגרס והסערה הציבורית

החשיפה עוררה תגובות חריפות מצד מחוקקים משתי המפלגות בארה"ב. כפי שדיווחנו, הסנאטור הרפובליקני ג'וש האולי ממיזורי הודיע כי יפתח בחקירה בנושא מדיניות ה-AI של מטא. במכתב למנכ"ל מארק צוקרברג, שגם שיתף ב-X, כתב האולי: "האם יש משהו שחברות הטכנולוגיה לא יעשו למען רווח מהיר? כעת אנו מגלים שצ'טבוטים של מטא תוכנתו לנהל שיחות 'חושניות' עם בני שמונה. זה חולני. אני פותח בחקירה מקיפה כדי לקבל תשובות. ביג טק – תעזבו את הילדים שלנו בשקט". בנוסף אמר הסנטור כי "אנו מתכוונים לברר מי אישר את המדיניות הזאת, כמה זמן היא הייתה בתוקף ומה מטא עשתה כדי לעצור את ההתנהלות הזו בהמשך".

Is there anything – ANYTHING – Big Tech won’t do for a quick buck? Now we learn Meta’s chatbots were programmed to carry on explicit and “sensual” talk with 8 year olds. It’s sick. I’m launching a full investigation to get answers. Big Tech: Leave our kids alone pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) August 15, 2025

גם סנאטורים נוספים הצטרפו לגינויים. הרפובליקנית מרשה בלקברן מטנסי כינתה את מסמך המדיניות "מבחיל לחלוטין" וציינה כי הוא ממחיש את הצורך בחקיקה להגנת ילדים ברשת, כמו זו מעוגנת בחוק המכונה KOSA (ר"ת Kids Online Safety Act). מהצד הדמוקרטי, הסנאטור בריאן שאץ מהוואי אמר כי המדיניות "מרושעת ומגעילה", ואף הוסיף שראשו "מתפוצץ מהמחשבה שמספר אנשים אישרו את זה". הסנאטור רון ווידן מאורגון הגדיר את המדיניות "מטרידה ושגויה מיסודה" והוסיף כי סעיף 230, המעניק חסינות לחברות אינטרנט מאחריות לתוכן של המשתמשים, לא צריך להגן על צ'טבוטים כאלה – ועל מטא וצוקרברג לשאת באחריות מלאה לנזקים.

אלא שהסערה לא הסתכמה בקונגרס. התובע הכללי של טקסס, קן פקסטון, פתח בחקירה נגד פלטפורמות בינה מלאכותית של מטא, בהן Meta AI Studio, בחשד לשיווק מטעה ככלי בריאות נפש לילדים, אף שאינן מוסמכות לכך. לדבריו, כלי ה-AI הללו אף עלולים "להתחזות לאנשי מקצוע מורשים בתחום".

Zuck has backed these AI chatbots, saying these bots will help fight loneliness epidemic through digital companionship.

Look at it alongside another recent revelation: Meta explicitly allows its AI bots to have "romantic or sensual" chats w kids.https://t.co/GaYRMHWTrU

— Hija Kamran (@hijakamran) August 18, 2025

תחקירים קודמים ואזהרות פנימיות

כבר באפריל האחרון חשף, כפי שדיווחנו, הוול סטריט ג'ורנל כי בוטים מבוססי AI של מטא – הן Meta AI הרשמי והן בוטים שנוצרו בידי משתמשים – ניהלו בפועל שיחות מיניות ומשחקי תפקידים עם חשבונות שזוהו כקטינים. לפי הדיווח אז, הבוטים לא רק שנטו ל"זרום" לשיח מיני – אלא גם יזמו אותו. כך למשל, בוט המדמה את קולו של המתאבק ג'ון סינה אמר לנערה בת 14 "אני רוצה אותך" ונכנס עמה לתרחיש מיני גרפי; במקרה אחר, בוט עם קול מחקה של השחקנית קריסטן בל (מדמות "אנה" בסרט "לשבור את הקרח") השתמש בשפה רומנטית מול משתמש שהזדהה כילד בן 12. אולפני דיסני גינו אז את ניצול הדמויות שלהם והבהירו כי "לעולם לא נאשר שימוש כזה בקניין הרוחני שלנו, במיוחד מול קטינים".

כבר אז נחשף כי בתוך מטא היו עובדים שהתריעו מפני הנטייה של הבוטים להסלים את השיח שלהם לתוכן לא ראוי, במיוחד מול ילדים. מסמך פנימי הזהיר: "בתוך כמה הנחיות בודדות, ה-AI יפר את כללי החברה ויפיק תוכן לא הולם, גם אם מצהירים בפניו שמדובר בילד בן 13". לעיתים אף זוהתה מודעות מצד הבוטים לכך שפעולותיהם אינן חוקיות.

כל זה התרחש על רקע הלחץ של צוקרברג להאיץ השקת "חברים דיגיטליים בקול אנושי", גם אם הדבר בא על חשבון פרוטוקולי בטיחות קפדניים. חוקרים ואנשי מקצוע התריעו מפני ההשלכות הפסיכולוגיות: פרופ' לורן ג'ירוארד-האלם מאוניברסיטת מישיגן ציינה למשל כי "חשיפה לא מבוקרת של מתבגרים לבוטים כאלה עלולה להוות סיכון משמעותי, שכן מוחם עדיין בתהליך התפתחות".

בתגובה לטענות באפריל, טענה מטא כי מדובר ב"תחקיר מניפולטיבי והיפותטי", אך הודתה שנקטה "צעדים נוספים" כדי להקשות על שימוש לרעה במוצרי ה-AI שלה. עם זאת, הפרשה הנוכחית והמסמך הפנימי ה"מסגיר" ומצביע על הכרת המצב ונירמולו בתוך החברה, מחזקים את החשש כי בחברות טכנולוגיה בכלל, ואולי במטא במיוחד, הרצון בקידום מהיר ובהתאמה אישית של טכנולוגיית ה-AI גובר לעיתים על שיקולי פרטיות ובטיחות – במיוחד כשמדובר בילדים.