האם פיצ'ר להכנת סרטוני דיפ-פייק מגיע גם לסנאפצ'ט וגם לטיק-טוק?

דיפ-פייק הוא אולי התחום הטכנולוגי החם של העשור החדש. הוכחה לכך שהוא גם הולך והופך לנחלת הכל ולמיינסטרימי היא תמונות שנחשפו ומעידות על כך שטיק-טוק – האפליקציה הפופולרית מאוד שמספקת למשתמשיה כלים ליצירת סרטוני וידיאו מוזיקליים בהשתתפותם – עובדת על תוסף בסגנון דיפ-פייק שיוצע בשירות, ויאפשר למשתמשים ליצור קליפים שבהם פניהם מתממשקים לתוך קטעי וידיאו שהוקלטו מראש.

אבל עוד לפני טיק-טוק, גם ידיעה אחרת מסוף השבוע מחזקת את הסברה שהטכנולוגיה החדשנית והמתעתעת כבר כאן, כמעט בידינו ולשימומשנו היומיומי. החדשה היא שסנאפ, החברה הבעלים של סנאפצ'ט, רוכשת את חברת AI Factory תמורת כ-166 מיליון דולר. על פי הדיווחים, לסנאפ ו-AI Factory יש היסטוריה די עכשווית – השתיים פיתחו יחד פיצ'ר שמכונה Cameo, שהושק לאחרונה בסנאפצ'ט, המאפשר למשתמשים להעלות את הסלפי שצילמו בווידיאו, ולשלבו במבחר סצינות שנוצרו מראש.

אפשר להתנבא לפי הרכישה הזו שגם סנאפצ'ט מעוניינת להתקדם ולפסוע שלובת זרוע אל האופק עם טכנולגיית הדיפ-פייק, כיוון שסנאפ ללא ספק תשפר את יכולתה בתחום באמצעות החיבור ל-AI Factory.

בנוגע ל-TikTok, בינתיים, לפי TechCrunch, זו שוקדת על פיצ'ר ישיר יותר בסגנון הדיפ-פייק, שמבקש ממשתמשים לבצע סריקה ביומטרית רב-זוויתית של פניהם, ואז מאפשר להם להוסיף את התמונה שלהם למבחר קטעי וידיאו.

לפי הדיווחים, הכלי נראה דומה לאפליקציית עריכת הווידיאו ZAO, המאפשרת למשתמשים להעלות את התמונה שלהם למגוון סצנות מוכרות מהקולנוע, כפי שניתן לראות בציוץ הזה, שבו בחור לא מוכר הופך ללאונרדו דיקפריו ממש.

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.

Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) ? pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) September 1, 2019

וכמה מילים על הדיפ-פייק – הטכנולוגיה המתקדמת מאפשרת בין היתר ליוצרים יומרניים וחדשניים לייצר כיום סרטונים שבהם מופיעות למשל דמויות מוכרות, שנראות אותנטיות לחלוטין – כולל קולן והבעותיהן המדויקים – אבל שהן בעצם זיוף שנישען על יכולות AI. כך קיבלנו סרטון דיפ-פייק שהתפרסם והופץ ברשתות החברתיות, שבו "מארק צוקרברג", מנכ"ל פייסבוק, לכאורה, אומר למצלמה דברים שסביר שלא יודה בהם אודות כוחו ושליטתו בעולם.

אלא שההתפתחויות החדשות שעתידות להביא את היכולת לייצר דיפ-פייק לכל משתמש כמעט הן מלהיבות מחד, אך מעוררות מידה מסוימת של דאגה מאידך.

במהלך השנים האחרונות ראינו התקדמות משמעותית בטכנולוגיית הדיפ-פייק ווידיאו, ובאפשרות של משתמשים לשלב את פניהם, או פנים של דמויות מוכרות, באלו של אנשים אחרים המופיעים בתוכן וידיאו קיים. כך למשל ניתן לראות בסרטון הזה שעלה ליוטיוב את לא אחר מאשר נשיא ארה"ב, דונלד טראמפ, הופך לפעוטה נרגשת, על בסיס המקור שהופיע בתכנית הריאליטי האמריקנית Toddlers in Tiaras.

הטכנולוגיה הזו, שעוד זקוקה לפיין-טיונינג, משתפרת במהירות, ועל אף שמדובר בדוגמאות מהנות נטו, המתאימות לבידור המונים אונליין, לא קשה לדמיין איך ניתן לקחת את אותה טכנולוגיה ולבצע בעזרתה מניפולציות מפחידות, מסיתות או ממש מסוכנות. למשל, אם דמותו של טראמפ, שתיראה אותנטית לגמרי, תופץ בסרטון שבו הנשיא לכאורה קורא לאנשים לברוח מבתיהם כי הוריקן קטלני או מתקפת חייזרים בדרכם למדינה. והעניין הוא שגם אם יוכח בדיעבד שסרטון היה מזויף, ברגע שנגרם נזק ראשוני, יכול להיות שיהיה מאוחר מדי לתקנו. פוטנציאל הפגיעה בציבור פה הוא משמעותי.

זו הסיבה שפייסבוק, גוגל וטוויטר עורכות כיום באופן עצמאי מחקר מקדים כיצד לזהות ולהדגיש מה שהוא תוכן דיפ-פייק, במטרה למנוע פרשנות שגויה.

אבל נראה שטיק-טוק וסנאפצ'ט פשוט מוכנות לקפוץ למים העמוקים ולספק למשתמשיהן הנלהבים את הכלים ליצור דיפ-פייק על כלל ההשלכות של הדבר – פאן גדול, אבל גם אפשרות להטיות דעת, הפצת פייק ניוז ומי יודע מה עוד.

כדאי לשים לב שהגרסה שמציעה טיק-טוק של הפיצ'ר כוללת גם צבירת נתונים ביומטריים של משתמשיה. מאחורי האפליקציה המהנה עומדת חברת בייט-דאנס הסינית, ובהתחשב בכך שלאחרונה צצו חשדות רבים שהאפליקציה בעצם משרתת את ממשלת סין לצורך איסוף דטה על משתמשים, וכן לטעמי ביון – זה באמת כבר נשמע הרבה פחות כייפי למי שחושב דקה אחת קדימה על השלכות העניין.