מודיעין פסיכולוגי – השלב המסוכן הבא של מתקפות הסייבר מבוססות AI

יותר ויותר הנהלות מבינות שסייבר הוא סיכון עסקי. הנושא כבר לא שייך רק לאנשי אבטחת מידע. גורמי הנהלה בכירה ואנשי עסקים בכלל מבינים את הסכנה הזאת, ועדיין קיים פער בין ההבנה התיאורטית של הסיכון לבין ההבנה האמיתית של המציאות החדשה של הסכנה האמיתית של עולם הדיפ-פייק, שכפול קול או הונאת מנכ"ל (CEO Fraud). חלק  מהמנהלים מתייחסים לדיפ-פייק כאל גימיק טכנולוגי וחדשות חמות או מרשימות של עולם הטכנולוגיה, ובעיקר שואלים את השאלות הלא נכונות. השאלה האמיתית היא התרחיש השלם והתחכום שבו, קרי באיזה רגע הוא מופיע, בתוך איזה סיפור, תחת איזה לחץ? החלק של זיהוי הקול הוא רק מקטע קטן בעלילת פשע שלמה. מסוכנת ומרתקת בו זמנית.

אנטומיה של מתקפה מודרנית

המתקפות החדשות הן כבר לא אירוע נקודתי. הן מתוחכמות יותר והן בעיקר יודעות להתחבא. כחלק ממהלך מתוזמן, הדרגתי ושקט, כשרשרת של אירועים תמימים, לכאורה, שיחד, יוצרים תמונת מודיעין. בעולם האמיתי, מתקפה מבוססת AI היא מהלך מתוזמן, הדרגתי ושקט, המורכב ממספר וקטורים שמייצרים יחד מציאות חלופית. וזה קורה הרבה לפני שהארגון מבין שהוא נמצא תחת מתקפה.

קבלו תרחיש טיפוסי:

יום שני: סמנכ"ל הכספים מקבל הודעת וואטסאפ קצרה מהמנכ"ל: "אני טס מחר בבוקר ללונדון לסגירות אחרונות של עסקת המיזוג. אהיה חצי זמין" (המידע על הטיסה אותנטי ונאסף מהרשתות החברתיות). יום שלישי, 09:00: מתקבל מייל רשמי (לכאורה) ממשרד עורכי הדין שמלווה את העסקה, המנכ"ל מכותב אליו. המייל כולל דרישה להכנת מקדמה לחשבון נאמנות. יום שלישי, 11:30: הודעה ב-Teams מהמנכ"ל: "ראית את המייל מעורכי הדין? אנחנו חייבים לרוץ על זה לפני שהמתחרים יגלו".  יום שלישי, 11:45 (רגע האמת): סמנכ"ל הכספים מקבל שיחת טלפון. על הצג המספר של המנכ"ל. הקול הוא קולו של המנכ"ל, כולל קצב הדיבור, הנשימות וסגנון ההתבטאות: "תקשיב, אני נכנס עכשיו לחדר ישיבות סגור בלי טלפונים. יש לנו חלון של חצי שעה לאשר את ההעברה. אל תעכב אותנו עכשיו, אני סומך עליך. שלח אישור למייל של עורכי הדין ותסגור את זה".

כל אירוע בנפרד נראה סביר. ביחד, הם בונים כלוב פסיכולוגי שקשה מאוד לברוח ממנו. סמנכ"ל הכספים לא נמצא במבחן טכנולוגי; הוא נמצא במבחן פסיכולוגי.

AI מעניקה לתוקפים את הנשק המסוכן ביותר: סבלנות

הבינה המלאכותית שנכנסת כאן לתמונה, לא רק משפרת את איכות הזיוף. היא  מאפשרת לתוקפים לאסוף ולנתח הררי מידע: מי טס לחו"ל, מי התראיין, מי חוגג זכייה בפרויקט ומי מברך עובד חדש בלינקדאין. הנוכחות הדיגיטלית של חברי הנהלה היא נכס חשוב. היא בונה מוניטין, אמון, קשרים עסקיים והשפעה. אבל היא גם בסיס מידע לתוקף: תמונות, סרטונים, ראיונות, פודקאסטים, כנסים, ברכות, ציטוטים, סגנון דיבור, שפת גוף, קול, תחומי עניין, לוח זמנים ציבורי וקשרים עסקיים. כל אלה מאפשרים לתוקף לא רק לזייף את האדם, אלא להבין איך הוא מתנהל. איך הוא מדבר. איך הוא מבקש. עד כמה הוא ישיר. באילו מילים הוא משתמש. האם הוא מלחיץ, מנומס, קצר, חברי או סמכותי.

"המחיר של מתקפה מוצלחת אינו רק כספי. אחרי אירוע כזה, אנשים מתחילים לשאול את עצמם על בסיס שעתי: האם זו הייתה באמת שיחה מהמנהל? האם ההנחיה באמת הגיעה מלמעלה? כשהאמון נפגע, הארגון משלם מחיר עמוק הרבה יותר מדלף כספי: העבודה נעשית איטית, חשדנית ומתוחה. האתגר של הנהלות הוא לא לבטל את האמון, אלא לבנות אמון שיש בו מנגנוני אימות בריאים"

מדובר בכשל ניהולי, לא בפריצת סייבר

דיפ-פייק ושיבוט קול (Voice Cloning) אינם בעיית זיהוי, הם בעיית אמון. הם מנצלים את הדרך שבה אנשים מקבלים החלטות, בעיקר בתוך היררכיה ארגונית.

אנחנו לא בודקים כל דבר מאפס. אנחנו מסתמכים על שם מוכר, על דחיפות עסקית, ובעיקר, על רצון לרצות את ההנהלה ועל הפחד לעכב תהליכים. הכשל הפסיכולוגי הזה חזק במיוחד בארגונים שמרניים. כשמנכ"ל או בעל שליטה דורש משהו בדחיפות, עובדים לעיתים חוששים להיתפס כמי שמערערים על סמכות. התוקפים לא תוקפים את תיבת הדואר, הם תוקפים את התרבות הארגונית.

הנזק השקט: קריסת האמון הפנים-ארגוני

המחיר של מתקפה מוצלחת אינו רק כספי. אחרי אירוע כזה, אנשים מתחילים לשאול את עצמם על בסיס שעתי: האם זו הייתה באמת שיחה מהמנהל? האם ההנחיה באמת הגיעה מלמעלה? כשהאמון נפגע, הארגון משלם מחיר עמוק הרבה יותר מדלף כספי: העבודה נעשית איטית, חשדנית ומתוחה. האתגר של הנהלות הוא לא לבטל את האמון, אלא לבנות אמון שיש בו מנגנוני אימות בריאים. מותר, ואף רצוי, שעובד יאמר: "אני עוצר רגע לוודא".

אז מה הנהלות צריכות לעשות כבר מחר בבוקר?

כדי להפוך את הארגון לחסין, נדרשת פעולה אקטיבית של ההנהלה: מעבר ממצגות לתרגול חי; אימות של פעולות רגישות/בקשות חריגות; כללים ארגוניים חדשים שמגמישים את תהליכי הווידוא; עבודת עומק של מיפוי רמות החשיפה; ובעיקר – מודעות. מילה גדולה שטומנת בחובה תורה שלמה. בשורה התחתונה, הסכנה הממשית של  AI בשירות מתקפות הסייבר – הונאת מנכ"ל, שיבוט קול דיפ-פייק – היא במפגש עם בני האנוש, במקום שבו הם לחוצים, חוששים מסמכות וחוששים לטעות. לכן, השאלה העיקרית עבור מנהלים היא לא טכנולוגית ולא סביב היכולת לזהות זיוף. השאלה נסובה סביב תרבות ארגונית ומודעות. ההתמודדות שם אולי תצליח להציל ארגונים, גם כשהפנים מוכרים, הקול מוכר והסיפור הגיוני. וזה יקרה בזכות אמון, סקפטיזם בריא, מודעות ואפילו אומץ.

גיא דגן הוא מומחה לסייבר ולניהול סיכוני הגורם האנושי למתקפות סייבר, מנכ"ל קונסיינטה מחטיבת הסייבר של קבוצת יעל.