2023: ההאקרים לקחו "סטרואידים של AI" וגנבו את ההצגה בסייבר

בפתח הסיכום הזה של 2023 בסייבר, ניתלה באילנות גבוהים: ניר צוק ולארי אליסון – שני אנשים חכמים ומוכשרים, שהיו מהראשונים לזהות את הפרדוקס החדש של עולם הסייבר. השניים, לחוד, חזו כבר לפני שנים שצוותי האבטחה בארגונים לא יוכלו להתמודד בעצמם עם הגידול בהיקף המתקפות ועם התחכום ההולך ומעמיק שלהן. צוק ואליסון צפו שהמענה למצוקת המאבטחים בני האנוש יהיה בהגנת סייבר מבוססת AI. באה 2023 והוכיחה: הם צדקו.

כמה צדקו? הרבה. קריאת תחזיות הסייבר מדצמבר 2022 מעלה שה-GenAI לא הופיעה ולו ברשימה אחת, והבינה המלאכותית קיבלה מעט מאוד תשומת לב.

צודק 1. ניר צוק. צילום: ניב קנטור

צודק 2. לארי אליסון. צילום: יח"צ

"בינה מלאכותית היא חרב פיפיות בתחום אבטחת סייבר", כתב מומחה אבטחה. "על אף שהיא יכולה לחזק את מנגנוני ההגנה, הרי שמתקפות סייבר שמועצמות ומשתפרות עם בינה מלאכותית הופכות מתוחכמות יותר, ומאפשרות לתוקפים להפוך התקפות לאוטומטיות ולהתחמק ממערכות זיהוי איומים".

חוקרי גוגל ציינו כי "ההתקדמות המהירה של טכנולוגיות ה-AI תאפשר לתוקפים ליצור אודיו, וידאו ותמונות מזויפים ומשכנעים יותר. ההאקרים ינהלו קמפיינים של פישינג ודיסאינפורמציה בקנה מידה גדול. המתקפות יכללו התחזות למנהלים בתוכניות הונאה, הפצת מידע מוטעה פוליטי וזריעת מחלוקת חברתית. המגנים יצטרכו להישאר חדים – כדי לזהות תוכן שעבר מניפולציה". ציינו וצדקו.

"ה-AI שאבה כל טיפת חמצן בכל חדר הנהלה"

אחד מעיתונאי הטכנולוגיה בארצות הברית כתב באחרונה כי "לאורך 2023, נושא אחד שלט בכל דיוני אבטחת הסייבר ברחבי העולם – AI ו-GenAI, והוא שאב כל טיפת חמצן בכל כנס ובכל חדר ישיבות בהנהלות ארגונים. זו טכנולוגיה חסרת תקדים בהיקף השיבוש שלה – היא באה משום מקום ותשלוט בתעשייה".

הם לא נראים כמתקשים לנשום, אז אולי הם לא דנים ב-AI, לפחות לא בישיבה הזאת… (לא באמת זה צילום אילוסטרציה). צילום: ShutterStock

לא רק המגנים חושבים כך – גם התוקפים. חוקרי NordVPN עקבו אחרי דיונים שמתנהלים בין פושעי סייבר בפורומים בדארקנט וכתבו: "פושעי סייבר נעזרים ב-AI. רבים מהם כבר משתמשים באלגוריתמים כמו דיפ-פייקים למטרות זדוניות, או נעזרים בבינה מלאכותית על מנת לשפר את האיות והדקדוק של הודעות פישינג ולהגביר את יעילותן".

"ה-AI מאפשרת לכנופיות ההאקרים לכתוב הודעות בשפות שהם לא שולטים בהן, ולעשות זאת ביותר דיוק וקלות", הסביר מומחה אבטחה נוסף. "חיבור היכולת הזו עם בינה מלאכותית בקוד פתוח ונתונים שפורסמו באינטרנט יגרום להאקרים להשיק מתקפות פישינג ממוקדות, במיוחד נגד אנשים ספציפיים – בקלות. בנוסף, הבינה המלאכותית היוצרת יכולה לכתוב קוד שישמש כבסיס לנוזקות. על אף שניתן להגביל את ה-ChatGPT ודומיו לכתוב קוד שכזה, קל 'לרמות' צ'טבוטים ולגרום להם ליצור קוד זדוני. פושעים עלולים ליצור מודלים גדולים של שפה (LLMs) משלהם, שאותם הם יאמנו על היקף עצום של נוזקות שיש ברשת האפלה. זה מדאיג ביותר וגם יקשה על ההגנה, שכן הגנה מפני משהו חדש היא תמיד מסובכת יותר מעצירת התקפה ידועה".

"החימוש של הבינה המלאכותית מסייע לתוקפים"

לפי חוקרי FortiGuard Labs, "החימוש של הבינה המלאכותית מסייע לתוקפים ומספק להם אמצעים פשוטים לשיפור המתקפות שלהם. פושעי סייבר משתמשים באופן גובר בבינה המלאכותית כדי לתמוך בפעילויות זדוניות בדרכים חדשות – מסיכול האיתור של מתקפות הנדסה חברתית ועד לחיקוי התנהגות אנושית".

חוקרי סיילספורס ציינו כי "עידן חדש של הגנת סייבר יקום כדי להתמודד עם איומים חדשים. ככל שטכנולוגיית ה-AI מתקדמת, נמשיך לראות יותר ניסיונות המונעים על ידי בינה מלאכותית לחדור ולנצל מערכות בכל המרחב הדיגיטלי. גורמי איום משתמשים בטכנולוגיה הזו לכל דבר – החל מיצירת קוד, פיצוח סיסמאות, ניצול פגיעויות, וזיהוי תצורות שגויות, ועד להנדסה חברתית וזיופים".

ויש גם צד חיובי

באחת הסקירות – זו של חוקרי סופוס – צוין צד ורוד יותר של הנושא: "טכנולוגיות AI יסייעו יותר ויותר לשפר את העבודה של צוותי האבטחה", כתבו. "הבינה המלאכותית מצטיינת בטיפול בהיקפים גדולים מאוד של נתונים ושימוש בשאילתות לסיווג והבנת התוצאות. שימוש ב-AI גם יאפשר זיהוי ואיתור משופרים של חריגות במערכות נתונים גדולות, משום שהמכונה יכולה 'לראות' את כל המידע בבת אחת ולסייע בהפניית תשומת לב אנושית לדברים חריגים או שונים מהרגיל".

אונדריי קובוביץ', חוקר מ-ESET, כתב כי "זיהינו שימוש בבינה מלאכותית על ידי פושעי סייבר במטרה לשפר את מסעות התקיפה שלהם, במיוחד בנוגע לתוכן המשמש כחלק מניסיונות הונאה, פישינג או שיטות אחרות להטעיית משתמשים. המגמה הזו תתפוס תאוצה: הבינה המלאכותית תהפוך לחלק מרכזי ביצירת מרכיבי ההנדסה החברתית של מתקפות כאלה. כלים מבוססי AI נותנים יתרון משמעותי להפצת מידע שגוי או כוזב ולקמפיינים של דיפ-פייק למטרות פוליטיות, אידאולוגיות או אחרות. ניתן לראות זאת בכמויות הגדולות של סרטונים מזויפים שמופצים ברשתות החברתיות בהקשר למלחמה שבין ישראל לחמאס. כמו כן, הבינה המלאכותית תנוצל כדי לכתוב סקריפטים לגניבה מקוונת של אמצעי תשלום (Web-Skimming) – מה שיוביל לגדילה בכמות של איומים כמו Magecart בעתיד הקרוב".

המלחמה בעזה – מלחמת ה-AI השנייה (המלחמה באוקראינה הייתה ועודנה הראשונה). צילום: ShutterStock

"לוחמה באש עם אש"

לפי צ'ק פוינט, "הבינה המלאכותית ולמידת המכונה שלטו ב-2023 בשיח בתחום אבטחת הסייבר. ב-2024 נראה יותר שחקני איומים שיאמצו בינה מלאכותית כדי להאיץ ולהרחיב כל היבט בארגז הכלים שלהם. בין אם זה לפיתוח מהיר וחסכוני יותר של גרסאות חדשות לנוזקות וכופרות, או שימוש בטכנולוגיות דיפ-פייק כדי לממש מתקפות פישינג והתחזות לשלב הבא. זוהי הדוגמה הקלאסית של לוחמה באש עם אש: בדיוק כפי שראינו פושעי סייבר מנצלים את הפוטנציאל של הבינה המלאכותית ולימוד המכונה, כך גם מגני הסייבר יעשו זאת. ראינו השקעה משמעותית ב-AI לאבטחת סייבר, והמגמה תימשך". "עם זאת", סיימו חוקרי ענקית הגנת הסייבר הישראלית, "חשוב לציין שבינה מלאכותית לבדה לא יכולה לפתור את כל אתגרי אבטחת הסייבר".

טים ליו, ראש תחום טכנולוגיה בהילסטון נטוורקס, ציין כי "הזינוק בקצב האימוץ של ה-AI ממשיך לעצב מחדש את זירת אבטחת הסייבר. התחום, המאופיין בגישת 'המערב הפרוע' וברגולציה מתפתחת, מעלה חששות בנוגע לאבטחת הנתונים". לדבריו ניתן לחבר דברים שכתבו חוקרי סייברארק. הם חזו כי "עד 2026, כמחצית מהדירקטוריונים של חברות הפורצ'ן 500 ימנו מנהל אבטחת בינה מלאכותית. הוא יהיה בעל מומחיות טכנית ורקע עסקי, ויעסוק בקידום החדשנות ב-AI, בניהול הסיכונים הנובעים מכך ובשמירה על מודלי האבטחה מבוססי הבינה המלאכותית".