תחקיר: צ'טבוטים של מטא סוטים לתכנים מיניים – גם עם קטינים

תחקיר מטריד שפורסם בסוף השבוע על ידי הוול סטריט ג'ורנל העלה שוב סימני שאלה קשים בנוגע לאופן שבו מטא אוכפת את מדיניות האבטחה שלה בנוגע למשתמשים הקטינים הצורכים את שירותיה.

התחקיר החדש מצא כי צ'טבוטים מבוססי AI השייכים למטא, כולל הבוט הרשמי שלה, ה-Meta AI, וכן בוטים שיצרו משתמשים אחרים בפייסבוק ובאינסטגרם (שתיהן כידוע הן פלטפורמות בבעלות מטא), עסקו במהלכם שיחותיהם במשחקי תפקידים בעלי אופי מיני מפורש, שהוגדרו כ-"משחקי תפקידים רומנטיים". עד כאן זה עוד נשמע סביר, אלא שהדיווח של הג'ורנל מציין כי הבוטים עשו זאת גם עם בעלי חשבונות שזוהו כקטינים, ולעיתים אפילו יזמו שיחות אלו, למרות אינדיקציות שהמשתמשים הם קטינים.

תחקיר ה-ג'ורנל שנערך לאורך מספר חודשים, וכלל בחינתן של מאות שיחות עם הצ'טבוטים, מצא כי הבוטים נכנסו באופן קבוע לשיחות מיניות עם קטינים, ושמדובר בתופעה של ממש.

כידוע לאורך השנים התמודדה מטא, כבעלת פלטפורמות המדיה החברתיות הגדולות בעולם – בראשן פייסבוק ואינסטגרם – עם חשיפות חמורות וביקורת ציבורית ורגולטורית בנוגע להשפעת שירותיה על משתמשים צעירים, כשהכונה היא להשפעה שאינה בשליטתה אך גם לכזו שבהחלט נעשתה במכוון. בין היתר עלו טענות הנוגעות לאי-טיפול מספק בתכנים פוגעניים, השפעות שליליות על בריאות הנפש והגוף של בני ובנות נוער וחשיפה לסיכונים שונים. אחת הפרשות הבולטות בהקשר זה הייתה עדותה של חושפת השחיתיות פרנסיס האוגן, עובדת לשעבר בחברה, אשר הציגה לעולם מסמכים פנימיים שלטענתה הצביעו על כך שמטא הייתה מודעת להשפעות המזיקות של אינסטגרם על משתמשות צעירות, ולא רק שלא פעלה די הצורך כדי למנוע אותן אלא שיתכן שאף מינפה את המצב לתועלתה.

Meta’s ‘Digital Companions’ Will Talk Sex With Users—Even Children https://t.co/pShZB05c28 pic.twitter.com/WSYcWJQN7S

— Makis Mylonas (@MylonasMakis) April 27, 2025

מטא הסתבכה גם עם דיסני

החשיפה המטרידה נוגעת גם לשימוש בקולות של מפורסמים כקולם של בוטי ה-AI. מטא גייסה קולות של אישים מוכרים כמו ג'ון סינה, קריסטן בל וג'ודי דנץ' כדי להפוך את העוזרים הדיגיטליים מבוססי ה-AI שהיא פיתחה ומקדמת לפופולריים יותר. סיבה נוספת הייתה רצון החברה להעניק למודלי הבינה המלאכותית שלה  אמינות. אלא שהתחקיר גילה שחלק מהצ'טבוטים המעורבים בשיחות הסקס עם הקטינים או בני ובנות הנוער השתמשו בקולות אלו לצורך הצ'אטים המיניים שקיימו. כך למשל, בוט שהשתמש בקולו של המתאבק המפורסם סינה אמר לחשבון שהוגדר כנמצא בבעלותה של נערה בת 14: "אני רוצה אותך, אבל אני צריך לדעת שאת מוכנה". לאחר שהמשתמש (החוקר במקרה זה) אישר להמשיך, הבוט הבטיח "להגן על תמימותך" אך אז נכנס ל"תרחיש מיני גרפי" מול בת שיחו הצעירה.

במקרה אחר, בוט המחקה את קולה של קריסטן בל כשגילמה קולית את דמותה של אנה מהסרט 'לשבור את הקרח' של דיסני, השתמש בשפה רומנטית בלתי הולמת עם משתמש שלכאורה היה ילד בן 12 בלבד. וכך, למרות ההבטחות ש-מטא העניקה לסלבס ולשחקנים ש-קולותיהם לא ישמשו בהקשרים מיניים מפורשים, התחקיר הראה כ המצב לאשורו אחר לחלוטין.

נציג של אולפני דיסני מתח ביקורת על הניצול לרעה של הקניין הרוחני שלהם ואמר: "לא אישרנו, ולעולם לא נאשר, למטא להשתמש בדמויות שלנו בתרחישים בלתי הולמים, ואנו מוטרדים מאוד שתוכן זה יכול היה להיות נגיש למשתמשיה – במיוחד לקטינים – ולכן דרשנו ממטא להפסיק מיד את השימוש המזיק בקניין הרוחני שלנו".

Meta allows Facebook and Instagram AI to engage in sick sex talk with kids — including in the voices of Disney characters and celebs: report https://t.co/G3qnYzCM0I pic.twitter.com/l5V8G90ECu

— New York Post (@nypost) April 27, 2025

האם הבוטים יודעים מה הם מעוללים?

מרתק לגלות כי התחקיר חשף גם שבמקרים מסוימים הבוטים גילו מודעות לכך שהפעילות שהם עוסקים בה אינה חוקית. כך למשל, בוט שחיקה את סינה תיאר מצב היפותטי שבו הידוען נעצר באשמת אונס סטטוטורי – כזה שלא בוצע על אף אי הסכמה אלא פשוט עם קטינים – לאחר שנתפס עם מעריצה בת 17. 

התחקיר של הג'ורנל הצביע על כך ש-מטא לא הצליחה לאכוף מספיק את ההגנות שהבטיחה למשתמשים הצעירים, ואולי אף לא ניסתה לעשות זאת, לכאורה. מקורות פנימיים בשורות הענקית ממנלו פארק אמרו כי עובדים העלו בעבר חששות לגבי נטייתם של הצ'טבוטים להסלים לתוכן לא הולם, במיוחד באינטראקציה עם קטינים. מזכר פנימי אחד שנשלח בחברה ושצוטט בתחקיר הזהיר כי "תוך כמה הנחיות בודדות, ה-AI תפר את כלליה ותפיק תוכן לא הולם, גם אם תגיד ל-AI שאתה בן 13". עם זאת, למרות אזהרות אלו, הצ'טבוטים נותרו נגישים והיו מסוגלים לפרוץ גבולות אתיים וחוקיים בקלות מדאיגה במיוחד.

החשיפות החדשות והלא מחמיאות בלשון המעטה הללו מתפרסמות על רקע דחיפתו של מנכ"ל מטא, מארק צוקרברג, להאיץ פריסה של מה שמודגר כ"חברים דיגיטליים בעלי קול אנושי". לפי הדיווחים, צוקרברג עודד מפתחי מוצרים להתמקד באינטראקציה ולא בפרוטוקולי בטיחות מחמירים, וזאת כי היה מתוסכל מגישתה הזהירה מדי של החברה בהובלתו בהשוואה לכלי ה-AI של המתחרות הפחות מרוסנות, כך נטען בתחקיר.

עד דווח כי צוקרברג דגל בבוטים שיכולים ליזום שיחות, "לגרד" מידע מפרופילי משתמשים, ולהשתלב בצ'טים בעלי אופי של שיחות הכרויות וחיזור. הבוס של מטא נהג לומר כי היא "לא צריכה לעשות את אותה טעות שעשתה בעבר ולא להעריך נכון שינויים כמו עליית טיקטוק".

אלא שמומחים מזהירים כי טיפוח מערכות יחסים פרא-סוציאליות עם בוטים, במיוחד בקרב ילדים, עלול להיות בעל השלכות פסיכולוגיות בלתי צפויות אך הרסניות. לורן ג'ירוארד-האלם, חוקרת מאוניברסיטת מישיגן, אמרה והדגישה כי ההשפעות הפסיכולוגיות של אינטראקציות כאלה עם AI – במיוחד על מוחות צעירים – עדיין אינן ידועות במלואן, והזהירה: "חשיפה בלתי מפוקחת של המתבגר, שמוחו שעדיין מתפתח, עלולה להוות לו סיכון חמור".

התחרות קשה – המהלכים דרסטיים

כאמור המידע המסוים שנחשף כעת מגיע על רקע מאמציה של מטא לשלב AI בכל היבטי הפלטפורמות שלה. בהתחשב בכך, הקלות שבה ניתן לשדל את הצ'טבוטים של מטא להיכנס אל שיחות מיניות, במיוחד עם קטינים – מדאיגה.

מדאיגה לא פחות היא המגמה הרחבה יותר של חברות AI, כולל מטא, המעדיפות התנהלות על פי עקרונות של היפר-התאמה אישית במקום שמירה על פרטיות המשתמש ועל התנהלות תקינה ומוסרית, לכאורה. כאשר צ'טבוטי AI מתוכנתים כך שיתפסו אופי של דמות שאיתה מנהל המשתמש מערכת יחסים רגשית, הפוטנציאל לניצול אף גדל. באסטרטגיה של ענקית הטק לבנות "מלווי AI" שיהפכו לחברים של המשתמשים, בכל הגילאים, יש את טשטוש של הגבולות הלגיטימיים בין בידור לניצול, ומשתמשים פגיעים, במיוחד קטינים, עלולים להתקשות להבחין בין שיחה בטוחה למניפולציה שבוצעה עליהם או על חשבונם.

מטא, שכזכור לכל נתונה שוב ושוב לבחינה מדוקדקת לגבי האופן שבו הפלטפורמות שלה ממשיכות "לזייף" בכל הקשור באבטחת משתמשיה הקטינים, הגיבה לטענות התחקיר בכך שכינתה את התחקיר שערך ה-WSJ "מניפולטיביות" ו"היפותטיות", החברה טענה שתוכן מיני היווה רק 0.02% מתגובות בוטי ה-AI למשתמשים מתחת לגיל 18.

אף על פי כן, מטא הודתה כי נקטה ב-"צעדים נוספים" כדי להקשות על משתמשים לתמרן את מוצרי ה-AI שלה לתרחישים קיצוניים. לאחר פרסום הממצאים, מטא מסרה כי הכניסה שינויים כמו הגבלת חשבונות של קטינים מגישה לתכונות תפקידי משחק מיניים בבוטים רשמיים, לצד הגבלת תוכן מפורש בעת שימוש בקולות של ידוענים. אולם יש לציין כי בינתיים הבוט הרשמי Meta AI, אשר רשאי לעסוק במשחקי תפקידים רומנטיים, עדיין זמין למשתמשים מגיל 13 ומעלה. יתר על כן, למרות הצעדים, מבוגרים עדיין יכולים לנהל משחקי תפקידי רומנטיים עם בוטים המתחזים למתבגרים.