"מיתוס מבשר קטגוריה חדשה של מערכות AI בסייבר"

"לאחר תקופה של דיווחים וספקולציות, אנת'רופיק חשפה בפני קהל מצומצם את Mythos Preview – גרסת מחקר מוקדמת למודל מיתוס שלה. בעולם הסייבר מיד עלתה השאלה: מה קורה כאשר בינה מלאכותית מתקדמת יכולה להאיץ תהליכי תקיפה כמו ניתוח נקודות תורפה, פיתוח קוד לניצול חולשות, פרצות ותכנון מתקפות? זו המשמעות האסטרטגית האמיתית של מיתוס: הוא מבשר קטגוריה חדשה של מערכות AI, שעלולות לעצב מחדש את ההתקפה והאבטחה בעולם הסייבר", כך אמר ד"ר גיא ויזל, שגריר טכנולוגי וחוקר בכיר בקייטו נטוורקס.

ד"ר ויזל התראיין לאנשים ומחשבים על רקע הדאגה מההתפתחויות בתחום הסייבר שמביא הגידול האקספוננציאלי של הבינה המלאכותית, וכן ממודל מיתוס. אנת'רופיק החליטה שלא לשחרר את המודל החדש שלה לציבור, אלא רק למספר מצומצם של חברות גדולות, בטענה שהוא "מסוכן מדי". הדאגה מההשלכות של מיתוס אף גרמו באחרונה לבכירים בענקיות טק להרים טלפון לבית הלבן ולשוחח עם סגן הנשיא, ג'יי.די. ואנס, ושר האוצר, סקוט בסנט.

לדברי ד"ר ויזל, השינוי המרכזי שמביאה הבינה המלאכותית "אינו בצורת המתקפה, אלא במהירות, בהיקף ובכלכליות שלה. תוקפים שמסתייעים ב-AI עלולים להתקדם מהר יותר לאורך שרשרת התקיפה, אך הם עדיין נדרשים לסרוק, לנוע רוחבית, לבסס גישה ולהוציא נתונים דרך מערכות ופרוטוקולים אמיתיים".

"החשש הוא ממשי"

הוא הסביר כי "החשש הוא ממשי. מודלים כמו מיתוס עלולים לקצר את הזמן בין חשיפת חולשה לניצול שלה, ולהעניק לתוקפים יתרון במהירות, בהיקף וביכולת ההתאמה שלהם. אלא שזה רק צד אחד של התמונה: אותן יכולות עצמן עשויות גם לסייע לצוותי הגנה לקדם מחקר, לקצר זמני תגובה ולהקדים לזהות מתקפות. לכן, השאלה המרכזית היא לא רק מי יאמץ ראשון מודלים מתקדמים, אלא גם מי יוכל להפעיל אותם על גבי ארכיטקטורה שמספקת נראות רחבה, הקשר ואכיפה בזמן אמת".

"אנחנו נמצאים ברגע משמעותי בעולם הסייבר", ציין ד"ר ויזל. "במשך שנים, מתקפות סייבר מתוחכמות נשענו לרוב על שני סוגים של מומחיות אנושית: איתור וניתוח חולשות – קריאת התרעות אבטחה, ניתוח קוד, סקירת עדכוני תוכנה ובחינת היתכנות לניצול, וביצוע תקיפה – איסוף מודיעין, השגת גישה, הרחבת הרשאות, תנועה רוחבית, ביסוס אחיזה וגניבת נתונים. ככל שהמודלים משתפרים ניתן יותר ויותר להסתייע בסוכנים לביצוע שני התפקידים הללו".

מה המשמעות של זה?
"כפי שאמרתי, המשמעות היא שהשינוי המרכזי הוא לא רק באיכות, אלא גם במהירות ובהיקף. מודלים מסוגלים לעבד נתונים טכניים גלויים מהר יותר, לעדכן קוד הוכחת היתכנות (PoC) מהר יותר, לתעדף מטרות מהר יותר ולבצע אוטומציה של משימות מחקר שבעבר דרשו מומחיות אנושית נדירה. גם אם תוקפים ממשיכים להסתמך על טקטיקות מוכרות, הזמן הנדרש לחבר ביניהן לכדי שרשרת תקיפה פעילה עלול להתקצר משמעותית. זו המשמעות האסטרטגית האמיתית של המודלים המתקדמים, ובהם מיתוס".

מסוכן. מיתוס. צילום: עיבוד ממוחשב: ג'מיני. מקור: gguy, Shutterstock

איך צוותי הגנת הסייבר יכולים להיערך להשלכות של מיתוס ושל מודלים דומים, ומתקדמים יותר, שוודאי צפויים?
"מודלים מתקדמים עשויים לשנות את זמן התגובה של צוותי ההגנה ולהרחיב את שטח התקיפה בכמה דרכים, שעל צוותי הגנת הסייבר להיערך אליהן: קיצור הזמן בין חשיפה של פגיעות לניצולה ומתקפה בפועל; לחץ גובר מחולשות יום אפס וסמוך לאפס (zero-day and near-zero-day); התרחבות זירת אבטחת ה־AI, בשל יכולת של התוקפים לנצל לרעה פרומפטים, לתמרן כלים, להזין מידע מזיק, לחשוף מידע רגיש ולכפות פעולות מסוכנות; התרחבות היקף הפגיעה וסיכוני האמון במערכות AI, שתביא להתלכדות של אבטחת סייבר ואבטחת בינה מלאכותית; קושי גובר בזיהוי מתקפות, בשל העובדה שתוקפים משתמשים בטכניקות שקטות יותר, אדפטיביות יותר ומודעות הקשר, שמשתלבות בתהליכי עבודה לגיטימיים".

ד"ר ויזל הדגיש כי "אותן יכולות שהופכות מודלים מתקדמים לאטרקטיביים עבור תוקפים, יכולות לשרת גם את ההגנה. מודל חזק יכול לסייע לצוותי אבטחה להבין תוכן טכני מהר יותר, לצמצם עבודה ידנית במשימות מחקר חוזרות, לזהות תנאים לניצול חולשות מוקדם יותר, לנתח נתוני טלמטריה בהיקפים גדולים ולגבש אמצעי הגנה במהירות רבה יותר. המשמעות היא קיצור תהליכים שבעבר נשענו לחלוטין על מומחיות אנושית".

"עידן המיתוס עבור עולם הסייבר"

לדברי המומחה, "המודל עצמו אינו אסטרטגיה. אנשי אבטחת סייבר עדיין זקוקים לנראות רחבה, להקשר משותף ורציף, וליכולת לתרגם תובנות לפעולות אכיפה. הם זקוקים גם לפלטפורמה שמסוגלת להפוך ניתוח לפעולה, מבלי להישען על שרשרת ארוכה של מערכות נפרדות ותהליכי מיזוג ידניים. לכן, דווקא בעידן של מודלים מתקדמים כמו מיתוס, לארכיטקטורה יש חשיבות גדולה אף יותר".

ד"ר ויזל ציין כי הגעתו של מיתוס מבשרת על עידן חדש: "זהו עידן המיתוס עבור עולם הסייבר. לא כי מודל אחד ישנה בן לילה את התחום, אלא כי הוא מצביע לאן פני התעשייה: עולם שבו סוכני AI פועלים משני צדי המתרס, ותפעול אבטחה שבו אוטומציה מתקדמת ומעורבות אנושית פועלות יחד. במציאות זו, המנצחים לא יהיו הארגונים שיאמצו ראשונים מודלים מתקדמים, אלא אלה שידעו להטמיע אותם באופן אחראי על גבי ארכיטקטורה נכונה: כזו שתענה לאתגרי המהירות, קנה המידה והיכולת לחבר בין שלבים בצורה יעילה יותר".

"תוקפים עלולים לאמץ את המודלים האלה כדי לקצר משמעותית את הזמן שבין גילוי חולשה לניצול שלה, ולכן גם לצוותי הגנה כדאי לאמץ אותם", הוסיף. "היתרון יהיה אצל מי שמחזיק בארכיטקטורה הנכונה להפעלת יכולות אלה. ארגונים שימשיכו להסתמך על מערכות נפרדות ועל פתרונות נקודתיים, שדורשים איסוף, קישור וקורלציה בדיעבד ממקורות שונים, יתקשו לעמוד בקצב החדש. יש לבחון באופן אחראי אימוץ מודלים מתקדמים לצורכי הגנה".

הוא סיכם באומרו כי "הערך האמיתי לא טמון רק במודל עצמו, אלא ביכולת להפעיל אותו על גבי ארכיטקטורה שמספקת נראות רחבה, הקשר משותף ורציף מקצה לקצה, ויכולת לתרגם תובנות לפעולה בזמן אמת. השילוב בין יכולות בינה מלאכותית לבין ארכיטקטורות אבטחה מתכנסות, לצד הצורך להגן גם על סביבות שבהן ה-AI עצמה הופכת לחלק מהתשתית הארגונית – הופך לרלוונטי יותר ויותר".