"בטווח הקרוב, לתוקפים יש יתרון בשימוש במודלים וסוכני AI"

"בשל הא-סימטריה המובנית בתחום הסייבר, בו תוקף אחד יכול ליצור עבודה למיליוני מגנים, הוא מקבל יכולות תקיפה מהירות יותר ועדיפות על פני אלו של ההגנה. הבינה המלאכותית הפכה את גילוי הפגיעויות לכמעט טריוויאלי, בעוד שהתיקון דורש זמן ומאמץ. כך נוצר פער הולך ומתרחב שמעניק לתוקפים עדיפות בכל שלב במתקפה. בטווח הקרוב, יש יתרון לתוקפים כשהם עושים שימוש במודלי שפה גדולים ובסוכני AI לבצע מתקפות רבות", כך אמר קווין מנדיה, מייסד חברת אבטחת הסייבר מבוססת בינה מלאכותית, ארמדין (Armadin).

מנדיה דיבר בכנס RSA שהתקיים לפני ימים אחדים בסן פרנסיסקו, בהשתתפות 40 אלף מומחי אבטחה מהעולם. לדבריו, "זו 'הסערה המושלמת' להתקפה – בשנה או שנתיים הקרובות".

מנדיה ייסד את מנדיאנט (Mandiant) ב-2004, שהיא כיום מבית גוגל קלאוד (Google Cloud). גוגל רכשה ב-2022 את ענקית הייעוץ ומודיעין האיומים בסייבר, תמורת 5.4 מיליארד דולר. בעברו שימש מנדיה כחוקר הונאות סייבר בחיל האוויר האמריקני, וחיבר כמה טקסטים בנושא, שאותם האנליסטים בתחום מכנים "מכוננים ומשפיעים". כך, מנדיאנט הפכה לפורצת דרך בתחום הקריטי של תגובה לאירועים.

"יכולות התקיפה של סוכן בינה מלאכותית שפוגע בך – אינן מובנות מבחינה אנושית", אמרה מנדיה, "בדרך הישנה, הייתה קבוצה, 'צוות אדום', שמנסה או מצליחה לחדור לקורבן. מולו יש בן אדם על מקלדת שמקליד פקודות. זה מצב בדיחה לעומת מה שסוכני בינה מלאכותית עושים: הם יכולים להתחמק ממערכות זיהוי ותגובה בקצה במהירות ולפעול במהירות אנושית כדי להימנע ממנגנוני זיהוי. ברגע שהוא נכנס לרשת, סוכן AI יכול לנתח תיעוד, לאסוף ו'לקרוא' חבילות ומדריכים טכניים מהר יותר מבני אדם, ולעצב התקפות המותאמות למערכות בקרה ספציפיות – תוך כדי תנועה".

"בעבר, לאחר שארגון ערך מבדקי חדירה, ההנהלה רצתה לדעת מה הסיכוי שתתרחש מתקפה מוכחת, בעולם האמיתי. אז, אף פעם לא יכולת באמת לענות. אבל עם בינה מלאכותית, זה יהיה זול ויעיל יותר, בו זמנית".

לשאלה לגבי פעילות האקרים בגיבוי מדינות, השיב מנדיה, כי "אני חושב שהן מנצלות פחות מ-50% מיכולות הבינה המלאכותית שלהן כרגע", אמר, "הן לא לוחצות. אף מדינה לא רוצה להיות הראשונה שתפתח את הדלת הזו".

"כשאתה בונה את ההתקפה, זה מפחיד בטירוף," סיכם מנדיה. "אם נשחרר את החיה מהכלוב היום, אף אחד לא יהיה ערוך לקראת מצב זה. בעוד כמה שנים, בינה מלאכותית התקפית שנבנתה על ידי מגנים, תאמן בהצלחה מערכות הגנה אוטונומיות. אך המצב הנוכחי חמור. ארגונים יצטרכו מערכות אוטונומיות, המסוגלות לבודד מיד התנהגות חריגה – כי לוחות הזמנים המסורתיים של זיהוי ותגובה יתמוטטו: לא יהיה לך זמן להתקשר למנדיאנט ביום חמישי אחר הצהריים, להביא אנשים, לחתום על חוזה. תצטרך להיות מסוגל להגיב במהירות של מכונה".