סקארלט ג'והנסון זועמת על שימוש בדיפ-פייק שלה בסרטון נגד קניה ווסט

השחקנית ההוליוודית סקארלט ג'והנסון הביעה אתמול (ד') את מורת רוחה מהשימוש בדמותה בסרטון דיפ-פייק שנועד למחות נגד דבריו ומסריו האנטישמיים של הראפר קניה ווסט. הסרטון, שהפך ויראלי ברשת, הציג גרסאות דיפ-פייק של סלבס יהודים רבים, ביניהם ג'והנסון, דרייק, דיוויד שווימר, סטיבן שפילברג, וודי אלן ואפילו בכירי הטק סם אלטמן ומארק צוקרברג. המשתתפים נראים בקליפ השחור-לבן כשהם לבושים בחולצת טי עם הדפס ייחודי, ומבקרים את ווסט ואת האנטישמיות שלו באמצעות הנפת אצבע משולשת.

"אני אישה יהודייה שאין לה סובלנות לאנטישמיות או לדבר שטנה מכל סוג שהוא. אבל אני גם מאמינה בתוקף שהפוטנציאל שדברי השטנה יוכפלו על ידי ה-AI הוא איום גדול בהרבה מכל אדם אחד שלוקח אחריות על כך. אנחנו חייבים להוקיע את השימוש לרעה ב-AI – ללא קשר למסרים שלו – אחרת אנחנו מסתכנים באיבוד אחיזה במציאות", הצהירה ג'והנסון אחרי שהקליפ הופץ על ידי רבים ברשתות החברתיות.

השחקנית המצליחה קראה להתנגד לשימוש לרעה ב-AI, ודרשה הפעלת רגולציה ממשלתית כדי למנוע מקרים דומים בעתיד. "זה מפחיד שממשלת ארה"ב משותקת בכל הנוגע להעברת חקיקה המגינה על כל אזרחיה מפני הסכנות המוחשיות של AI", הוסיפה.

"ה-AI היא רק הכלי החדש שמאפשר להעביר מסרים"

הסרטון המדובר נוצר בתגובה להתבטאויות אנטישמיות של ווסט ברשתות החברתיות, ולהפצתן של חולצות עם צלב קרס באתר המכירות שלו. יוצרי הקליפ הם אורי בז'רנו, מומחה ל-AI ג'נרטיבית, וגיא בר, העומדים יחד מאחורי Elevaitor.ai – חברה שלפי הגדרתה עוסקת ב"הובלת ארגונים לעידן החדש עם GenAI".

לפי הדיווחים, השניים לא קיבלו את אישורם של הסלבריטאים שהופיעו בסרטון להשתתפותם בו.

בז'רנו הגיב לביקורת של ג'והנסון ואמר שהסרטון נועד להילחם באנטישמיות, אך הודה שהשימוש בדיפ-פייק היה בעייתי.

בר פרסם פוסט בפייסבוק ובו ציין בין השאר כי: "אנחנו מכבדים מאוד את עמדתה של סקרלט ג'והנסון ואת הדיון הרחב על שימוש אחראי בבינה מלאכותית. אין ספק שהטכנולוגיה הזו מציבה אתגרים אתיים, ודיונים מסוג זה הם חשובים ונחוצים. יחד עם זאת, חשוב להבהיר: הווידאו אינו מסחרי, אלא הצהרה אמנותית ותרבותית, שנועדה להתמודד עם העלייה המדאיגה באנטישמיות. לאורך ההיסטוריה, אמנות, סאטירה וסיפורים היו כלי נשק רבי עוצמה במאבק על צדק חברתי. הבינה המלאכותית היא רק הכלי החדש שמאפשר להעביר את המסרים האלו. אין ספק שהבינה המלאכותית היא כוח דיסרפטיבי, ויש להתמודד עם השלכותיה על זהות, פרטיות ואמינות התוכן. אבל אסור שהדיון הטכנולוגי יאפיל על הבעיה האמיתית – הנורמליזציה של אנטישמיות והסתה".

ומה אם בסרטון דיפ-פייק מפורסמים יזהירו מפלישת חייזרים?

המקרה האחרון הזה מעלה שאלות רבות לגבי השימוש בטכנולוגיית דיפ-פייק והאחריות עליה. ג'והנסון אינה לבד במאבקה נגד השימוש בדמות שהיא תוצר AI שלה, אך היא לא מדברת על כך רק תיאורתית, אלא כבר נפגעה משימוש שכזה. השחקנית נקטה בעבר צעדים משפטיים נגד אפליקציה שהשתמשה בשמה ובדמותה בפרסומת ללא הסכמתה; ובנוסף, לפי דיווחים שונים, היא "הופיעה" בעבר בסרט תיעודי על פורנוגרפיה, שנוצר על ידי AI, וייתכן שהפר חוק בריטי בנדון.

השימוש בדיפ-פייק של מפורסמים ללא הסכמתם מעורר חששות גדולים מהונאות ציבור שאינן ניתנות לשליטה ושיופצו לכל מקום הרבה לפני שמישהו יזהה כי מדובר בזיוף עמוק. שאלות אתיות ומשפטיות מורכבות סביב הסוגיה כבר עולות ביתר שאת מאז שהיכולות הטכנולוגיות ליצור סרטונים בסגנון זה הגיעו לידי כל מי שחפץ בכך, דרך כלי הבינה המלאכותית היוצרת שעומדים כיום לשימוש הגולשים.

נכון, במקרה המסוים הכוונה של היוצרים הייתה טובה, לפחות על פניו, אולם יש מי שתוהים מה יקרה כשסרטון דומה שיגיע מכוונת זדון, יכלול את מה שיתפש כקריאה אותנטית של דמויות מפורסמות לפעולה כלשהי – למשל סרטון בו טראמפ ובכירי שלטונו יבשרו על פלישת חייזרים וצורך לנוס מפניהם – אבל יהיה שקרי לחלוטין ויוליך שולל רבים.