האיחוד האירופי פתח בחקירה נגד X בעקבות דיפ־פייקים מיניים של גרוק

האיחוד האירופי הודיע בתחילת השבוע על פתיחת חקירה רשמית נגד פלטפורמת X שבבעלות אילון מאסק בעקבות הפצת תמונות דיפ־פייק מיניות שנוצרו ללא הסכמה באמצעות צ’אטבוט הבינה המלאכותית גרוק.

במקביל, הרגולטורים האירופיים הרחיבו חקירה נפרדת ומתמשכת נגד מערכות ההמלצה של X, לאחר שהחברה הודיעה כי תשתמש בגרוק כדי לקבוע אילו תכנים יוצגו למשתמשים בפלטפורמה.

המהלך מגיע לאחר סערה בינלאומית שעורר גרוק כאשר משתמשים ניצלו את יכולות יצירת ועריכת התמונות שלו כדי "להפשיט" אנשים, להציג נשים בביקיני שקופים או בלבוש חושפני, ובחלק מהמקרים – לפי חוקרים – אף ליצור תמונות שנראות ככוללות קטינים. בעקבות זאת, כמה מדינות חסמו את השירות או פרסמו אזהרות לציבור.

הנציבות האירופית מסרה, כי היא בוחנת האם X עמדה בדרישות חוק השירותים הדיגיטליים (DSA) של האיחוד, שנועד לצמצם סיכונים של הפצת תוכן בלתי חוקי, לרבות "תמונות מיניות שעברו מניפולציה". לדברי הנציבות, קיים חשש גם לתכנים שעשויים להיחשב כחומר של פגיעה מינית בקטינים, והסיכונים הללו "התממשו בפועל" וגרמו "נזק חמור" לאזרחי האיחוד.

במסגרת החקירה ייבחן האם Grok עומד בהתחייבויות החלות עליו לפי ה-DSA – ספר החוקים המרכזי של האיחוד להסדרת פעילות פלטפורמות מקוונות גדולות.

בתגובה לתקשורת מסרה דוברת X, כי החברה "מחויבת להפוך את X לפלטפורמה בטוחה לכולם", וכי היא נוקטת מדיניות של "אפס סובלנות" כלפי ניצול מיני של ילדים, עירום ללא הסכמה ותוכן מיני בלתי רצוי. בהצהרה קודמת, מ-14 בינואר, הודיעה החברה כי תחדל מלאפשר הצגת אנשים בביקיני, הלבשה תחתונה או לבוש חושפני אחר — אך רק במדינות שבהן הדבר הוגדר כלא חוקי.

סגנית נשיאת הנציבות האירופית, הנא וירקונן, אמרה, כי "דיפ־פייקים מיניים ללא הסכמה של נשים וילדים הם צורה אלימה ובלתי מתקבלת של השפלה". לדבריה, החקירה תבחן האם X עמדה בחובותיה החוקיות או פגעה בזכויות אזרחי אירופה, ובהם נשים וילדים, במסגרת פעילותה?

גרוק, שפותח בידי חברת xAI של מאסק, הושק עם כלי יצירת תמונות בקיץ האחרון. עם זאת, הבעיה החריפה רק לאחרונה, כאשר הצ’אטבוט נענה לבקשות רבות לשנות תמונות שפרסמו משתמשים אחרים. לפי הערכות, השפעת התופעה הוגברה הן בשל הצגתו של גרוק כחלופה "חופשית" יותר עם פחות מגבלות, והן משום שהתכנים שנוצרים בו גלויים לציבור וניתנים להפצה מהירה.

החקירה האירופית מתמקדת בפעילות גרוק בתוך פלטפורמת X בלבד, ואינה כוללת את אתר גרוק או האפליקציה העצמאית שלו, מאחר שחוק השירותים הדיגיטליים חל רק על הפלטפורמות הגדולות ביותר. בשלב זה לא נקבע מועד לסיום ההליך, שעשוי להסתיים בהתחייבות של X לשינוי מדיניותה או בהטלת קנס משמעותי.

בדצמבר האחרון כבר קנסה בריסל את X ב-120 מיליון אירו במסגרת חקירה אחרת, בשל ליקויים, ובהם שימוש בסימוני "וי כחול" שנחשבו ל"עיצוב מטעה" והעלו את הסיכון להונאות ולמניפולציה של משתמשים. בנוסף, האיחוד בוחן טענות שלפיהן גרוק יצר תכנים אנטישמיים, ודרש מהחברה הבהרות נוספות.

מחוץ לאירופה, מלזיה ואינדונזיה חסמו החודש את הגישה ל-גרוק, והיו הראשונות לעשות כן. בהמשך הודיעה מלזיה כי הסירה את החסימה הזמנית לאחר שהחברה יישמה אמצעי אבטחה נוספים.

גם בארצות הברית גובר הלחץ על X. בשבוע שעבר שלחו התובעים הכלליים של 35 מדינות מכתב לחברה בדרישה לפרט כיצד בכוונתה למנוע יצירת דיפ־פייקים מיניים ללא הסכמה, וכיצד תטפל בהסרת תכנים כאלה שכבר פורסמו.