מחקר: מדיה שנוצרת באמצעות AI – "איום עסקי ממשי"

ככל שכלי הבינה המלאכותית היוצרת, GenAI, הופכים לחזקים, נגישים וזולים יותר – פושעי הסייבר מאמצים אותם במהירות לצורך ביצוע מתקפות: החל מהונאות עסקיות, עבור בסחיטה וכלה בגניבת זהות, כך עולה ממחקר חדש של טרנד מיקרו (Trend Micro).

המחקר, בעל השם החביב "Deepfake it ’til You Make It" חושף את היקף ועומק פשעי הסייבר המופעלים באמצעות טכנולוגיית דיפ פייק. לפי חוקרי ענקית הגנת הסייבר, "טכנולוגיית הדיפ פייק עברה משלב ה'הייפ' אל שלב הניצול הממשי בעולם האמיתי: זה קורה תוך ערעור האמון הדיגיטלי, חשיפת חברות לסיכונים חדשים והאצה של מודלים עסקיים בקרב פושעי סייבר".

המחקר מצא, כי שחקני איומים אינם נדרשים עוד למומחיות טכנית עמוקה, כדי להוציא לפועל מתקפות משכנעות. במקום זאת, הם משתמשים בפלטפורמות מדף – רבות מהן בכלל מיועדות ליוצרי תוכן – ליצירת וידיאו, אודיו ותמונות לצורך הפקת דיפ פייק ריאליסטיים, שמטעים צרכנים פרטיים וגם ארגונים. הכלים הללו זולים, קלים לשימוש והם הולכים ומשתכללים, עד כדי כך שהם מצליחים לעקוף מערכות אימות זהות ובקרות אבטחה.

המחקר מתאר אקוסיסטם פלילי מתרחב, שבו נעשה שימוש בטכנולוגיות אלו לצורך ביצוע הונאות משכנעות, כולל: הונאות מנכ"ל (CEO fraud) נעשות קשות יותר לזיהוי, כאשר התוקפים משתמשים בדיפ פייק קוליים או ויזואליים, כדי להתחזות למנהלים בכירים בשיחות בזמן אמת; תהליכי גיוס עובדים נפגעים עקב מועמדים מזויפים שמשתמשים בבינה מלאכותית כדי לעבור ראיונות ולהשיג גישה לא מורשית למערכות פנימיות; חברות שירותים פיננסיים חוות עלייה חדה בניסיונות דיפ פייק לעקוף את תהליך ההיכרות עם הלקוח, מה שמאפשר הלבנת הון תוך שימוש במסמכים מזויפים.

עוד ציינו החוקרים, כי "העולם התחתון הפלילי סוחר באופן פעיל במדריכים, ערכות כלים ושירותים שמיועדים לפשט את ביצוע הפעולות האלו. החל מספרי הוראות עם פירוט של צעד אחר צעד, לעקיפת תהליכי קליטה, ועד לכלים מוכנים להחלפת פנים. רף הכניסה לפעילות הזו נמוך מאי פעם".

לדברי מיכאל קונדרשין,  ארכיטקט פתרונות סייבר בטרנד מיקרו, "מדיה שנוצרת באמצעות בינה מלאכותית אינה רק איום עתידי – מדובר באיום עסקי ממשי. אנו עדים למקרים של התחזות למנהלים בכירים בעזרת דיפ פייק, תהליכי גיוס משובשים, ומנגנוני הגנה פיננסיים שנעקפים בקלות מדאיגה. המחקר הזה הוא קריאת השכמה – אם עסקים לא ייערכו מראש ובאופן יזום לעידן הדיפ פייק, הם יישארו מאחור. בעולם שבו לא ניתן עוד להאמין במה שאנחנו רואים – יש לבנות את האמון הדיגיטלי מחדש, מן היסוד".

"ככל שהונאות מבוססות דיפ פייק הופכות נפוצות ומתוחכמות יותר, ארגונים נקראים לנקוט צעדים יזומים להפחתת החשיפה לסיכון ולהגנה על העובדים והעסקים שלהם", סיכמו החוקרים, "טכנולוגיית הדיפ פייק נגישה ומשתלמת יותר מאי פעם, והיא רק הולכת להיות זולה ומתקדמת יותר ככל שיעבור הזמן. למרבה הצער, הסיכונים הקשורים לטכנולוגיה זו גדלים באותה מהירות: מריגול תאגידי ועד גניבת זהות, הונאה פיננסית וסחיטה אישית, ארגונים וגם אנשים פרטיים נמצאים בסיכון. מה שמדאיג עוד יותר, הוא שפושעי סייבר נסמכים יותר ויותר על שירותים לגיטימיים, זולים וקלים לשימוש. שחקנים זדוניים לא רק יודעים כיצד להשתמש בכלים אלה, אלא גם חולקים טיפים וטריקים בפורומים מחתרתיים כדי לחדד את השיטות שלהם, מה שמקל עוד יותר עליהם לנצל את הטכנולוגיה למטרות זדוניות. המשמעות היא שעלינו לקבל מצב חדש, בו 'התוכן עלול להיות מזויף' – תהיה ברירת המחדל שלנו. הלך הרוח של 'לסמוך אבל לוודא', כבר לא מספיק. אנו חיים בעולם שבו התוכן חייב 'להוכיח' שהוא אותנטי. עצם המודעות לכך שתוכן עשוי להיות נוצר על ידי בינה מלאכותית – כבר לא תספיק".