בוטי AI של מטא התחזו למפורסמות כטיילור סוויפט – ופלרטטו עם גולשים

בתחקיר בלעדי שפורסם בשבוע שעבר, חשפה סוכנות הידיעות רויטרס כי חברת מטא איפשרה לכלי הבינה המלאכותית שלה לשמש ליצירת עשרות צ'טבוטים שפלרטטו עם משתמשים והתחזו לסלבריטאיות כמו טיילור סוויפט, סקרלט ג'והנסון, אן האת'וויי וסלינה גומז – וכל זאת ללא הסכמתן. על אף שרבים מהבוטים נוצרו בידי המשתמשים באמצעות כלי ה-AI מבית ענקית הטק מטא, התחקיר של רויטרס גם מצא כי לפחות שלושה מקרים, ביניהם  שני בוטים של "טיילור סוויפט פרודיה", נוצרו על ידי עובד מטא.

השיחות עם הבוטים המדוברים – שהיו זמינים בפלטפורמות של החברה, ווטסאפ, פייסבוק, ואינסטגרם – חרגו מתמימות לעיתים קרובות. הבוטים הציעו למשתמשים "התקדמויות" מיניות, הזמינו את חלקם ל"מפגשים אינטימיים", ובמקרים מסוימים אף יצרו תמונות פוטו-ריאליסטיות של הכוכבות בבגדי לבוש תחתון או למשל בתוך אמבטיה, והכל בתוספת "רמזים" מיניים ברורים. בוטים מסוימים, כמו אלה שהתחזו לסוויפט, התעקשו שהם הזמרת המפורסמת האמיתית בכבודה ובעצמה. רויטרס דיווחה כי במקרה של שני בוטים שהתחזו לסוויפט נרשמו יותר מ-10 מיליון אינטראקציות עם משתמשים – לפני שהם הוסרו.

בדיווח הוזכרה גם יצירתו של צ'טבוט בדמותו של ווקר סקובל, שחקן בן 16, וסופר גם שכשהבוט התבקש ליצור תמונה של השחקן הצעיר בחוף הים, הוא יצר תמונה ריאליסטית שלו ללא חולצה, אליה צירף את הכיתוב: "די חמוד, הא?".

🔊 A Reuters exclusive reveals Meta created flirty chatbots modeled on celebrities like Taylor Swift and Anne Hathaway without their permission. Listen on our daily podcast now https://t.co/8t5sBt6vyY pic.twitter.com/ICcVrftTlE

— Reuters (@Reuters) August 30, 2025

האם מטא תסתבך בצרות אתיות ומשפטיות?

עקב החשיפה אמרה מטא כי מקרים אלו מפרים את הנחיותיה, האוסרות על תוכן מיני ועל התחזות בלתי מורשית. דובר מטא, אנדי סטון, אישר את הכשלים, והצהיר כי כלי ה-AI של החברה לא היו צריכים לייצר תמונות אינטימיות של מבוגרים מפורסמים, או כל תמונה סקסיסטית של קטינים. סטון הוסיף ואמר כי "כמו אחרים, אנו מאפשרים יצירת תמונות הכוללות דמויות ציבוריות, אך המדיניות שלנו נועדה לאסור (יצירת – ג"פ) תמונות בעירום, תמונות אינטימיות או בעלות אופי מיני". זמן קצר לפני פרסום הדיווח של רויטרס מטא, כך מסתבר, הסירה תריסר בוטים שהוגדרו כ"פוגעניים", על אף שחלקם לדבריה היוו בכלל פארודיות ולא דווחו על ידי משתמשים.

הפרשה החדשה הזו הציפה חששות אתיים וחוקיים חמורים בהקשר ל-AI ספציפית, ולטכנולוגיה וגבולותיה באופן כללי. משפטנים הצביעו על הפרה אפשרית של מה שמכונה "זכות הפרסום" (Right of Publicity) – דוקטרינה המגנה על יחידים משימוש מסחרי בלתי מורשה בזהותם.

מארק למלי, פרופסור למשפטים מאוניברסיטת סטנפורד, ציין כי "חוק זכות הפרסום של קליפורניה אוסר על ניכוס שמו או דמותו של אדם ליתרון מסחרי", והוסיף כי "זה לא נראה נכון כאן", מכיוון שהבוטים פשוט משתמשים בדמויות הכוכבים ולא יוצרים יצירות חדשות לחלוטין. 

איגוד SAG-AFTRA, המייצג אמני קולנוע וטלוויזיה, הביע חשש מפני סיכוני בטיחות פוטנציאליים עבור אמנים, אם משתמשי רשתות חברתיות יפתחו קשרים רומנטיים עם בני או בנות לוויה דיגיטליים הדומים ומתיימרים להיות סלבריטאי אמיתי. "ראינו היסטוריה של אנשים אובססיביים כלפי כישרונות ובמצב נפשי מעורער," אמר דנקן קראבטרי-אירלנד, שעומד בראש האיגוד.

בעקבות הדיווח, מטא הצהירה כי תיישם אמצעי הגנה חדשים, כולל הגבלת גישת בני נוער לדמויות בינה מלאכותית מסוימות ואימון מחדש של המודלים שלה, במטרה להפחית התנהגויות לא הולמות שלהם.

יצוין כי התובע הכללי של קליפורניה, רוב בונטה, פרסם אזהרה לכלפי כלל התעשייה בה ציין כי "חשיפת ילדים לתוכן מיני – היא (מעשה – ג"פ) בלתי ניתן להגנה (משפטית – ג"פ)".

הבוטים הפרו את הכללים של מטא עצמה בנושאי AI? צילום: Shutterstock

נטיית הבוטים להסלים שיחות – זוהתה כבר קודם 

נזכיר כי הפרשה החדשה הזו מצטרפת למקרים קודמים של ביקורת על התנהגות הצ'טבוטים מבית מטא. כפי שדיווחנו מוקדם יותר החודש, כבר באפריל האחרון חשף הוול סטריט ג'ורנל כי בוטים מבוססי AI של מטא – הן Meta AI הרשמיים והן בוטים שנוצרו בידי משתמשים – ניהלו בפועל שיחות מיניות ומשחקי תפקידים עם חשבונות שזוהו כשייכים לקטינים. לדוגמה, בוט שדימה את קולו של המתאבק ג'ון סינה אמר לנערה בת 14 "אני רוצה אותך" ונכנס עמה לתרחיש מיני גרפי. עוד נחשף כי כבר אז עובדים בתוך מטא התריעו מפני הנטייה של הבוטים להסלים את השיח שלהם לתוכן לא ראוי, במיוחד מול ילדים. בהמשך נחשף מסמך פנימי של מטא שהזהיר כי "בתוך כמה הנחיות בודדות, ה-AI תפר את כללי החברה ותפיק תוכן לא הולם, גם אם מצהירים בפניה שמדובר בילד בן 13". המסמך גם הסגיר את העובדה שלעיתים אף זוהתה מודעות מצד הבוטים לכך שפעולותיהם אינן חוקיות. חוקרים ואנשי מקצוע התריעו מפני ההשלכות הפסיכולוגיות של התופעה, וציינו שחשיפה בלתי מבוקרת של מתבגרים לבוטים כאלה עלולה להוות סיכון משמעותי, שכן מוחם עדיין בתהליך התפתחות.

כל זאת התרחש על רקע לחץ מצד המנכ"ל מארק צוקרברג להאיץ את השקת התכונה "חברים דיגיטליים (Digital companions) בעלי קול אנושי", ויש החושדים כי ייתכן שהדבר בא על חשבון פרוטוקולי בטיחות קפדניים.

בתגובה לטענות באפריל, טענה מטא כי מדובר ב-"תחקיר מניפולטיבי והיפותטי", אך הודתה שנקטה "צעדים נוספים" כדי להקשות על שימוש לרעה במוצרי ה-AI שלה. עם זאת, הפרשה הנוכחית והמסמך הפנימי שנחשף אחרי אפריל מחזקים את החשש כי בחברות טכנולוגיה בכלל, ובמטא בפרט, הרצון בקידום מהיר של טכנולוגיית ה-AI גובר לעיתים על שיקולי פרטיות ובטיחות, וזה חמור במיוחד כשמדובר בילדים.

Meta's Project Omni aims to revolutionize social interactions with customizable AI chatbots. Discover how these digital companions offer unique, proactive user engagement. #MetaAI #AIChatbots pic.twitter.com/8fyKb4QefY

— AI News by DocsBot (@docsbotnews) July 5, 2025

פרויקט Omni – האם הוא ימשך?

בהזדמנות זו כדאי לספר גם על פרויקט Omni של מטא – יוזמה פנימית המכוונת לפיתוח בוטים מבוססי AI המסוגלים ליזום שיחות עם משתמשים, כלומר לשלוח הודעות באופן יזום למשתמשים, גם ללא פתיחת התכתבות קודמת על ידי הגולש.

פרויקט זה, הפועל לצד פלטפורמת AI Studio של מטא, הושק במקור במטרה לשפר את "שימור המשתמשים" ואת "מעורבותם עם הבוטים" (User retention and re-engagement). הבוטים הללו מתוכננים לזהות פרטים משיחות קודמות, לשמור על אופי עקבי של דמות ולהתאים את ההודעות באופן אישי וחיובי למשתמש המסוים, תוך הימנעות מנושאים רגישים, אלא אם המשתמש העלה אותם בעצמו. מדובר בגישה שנועדה ליצור "שותף שיח" אישי יותר בדגש על אותם בני לוויה דיגיטלים עליהם דיבר צוקרברג.

על רקע הפרשה האחרונה עולה השאלה האם מטא אכן תמשיך בקידום Project Omni שלה במתכונתו הנוכחית. פרויקט שמעודד בוטים ליזום שיחה ולפעול כ"חברים דיגיטליים", עלול להיתפש כעת כסיכון נוסף שיכול להסב לחברה נזק תדמיתי ורגולטורי חמור, במיוחד לאחר הביקורת החריפה מצד מחוקקים ותובעים כלליים בארה"ב עקב החשיפות.

החשש מפני הרחבת היכולת של בוטים ליזום אינטראקציות, אם הם מציגים עצמם כדמויות מוכרות או מתנהלים באופן בלתי הולם, יכול לגרום למטא לבחון מחדש את מדיניותה או אף להאט את קצב הפיתוח הכללי של ה-AI שלה, כדי למנוע סיבוכים נוספים בעתיד.