במירוץ החימוש בין הרעים למגינים – AI תמיד מנצחת

פרופ' ג'פרי הינטון, מדען מחשב ופסיכולוג קוגניטיבי, עבד על רשתות עצביות מלאכותיות וזכה לתואר "הסנדק של הבינה המלאכותית". המדען עתיר הפרסים, ביניהם נובל וטיורינג, עבד מ-2013 ב-Google Brain. ב-2023, הודיע הינטון על התפטרותו, על מנת שיוכל "לדבר בחופשיות על הסיכונים הנשקפים מפיתוח בינה מלאכותית בלתי מוגבלת", והביע חששות מהשימוש לרעה ב-AI על ידי גורמים זדוניים שיפגעו באחרים.

בחלוף אלף ימים, הינטון צדק: ב-2026, קצב השינוי והקידמה הטכנולוגית ממשיך להאיץ, כשהפוטנציאל של הבינה המלאכותית מתממש, לטוב ולרע. ההשלכות מרחיקות לכת: לרעים יהיה הרבה יותר כוח תקיפה, ובעזרת AI יקצרו את זמן החדירה לרשת, מימים לדקות. אנשי האבטחה יתמודדו עם וקטורי תקיפה חדשים לחלוטין, ויגנו על מערכות בהיקפים שטרם נראו.

ונדי וויטמור, ראשת תחום אבטחת מודיעין בפאלו אלטו, מעט אופטימית: "למרות שאנו נמצאים עם מתקפות AI מואצות", אמרה, "2026 תהיה השנה בה ההגנה תעקוף את ההתקפה, זו תהיה 'שנת המגן'. יכולות הגנה מונעות AI יטו, לראשונה, את מאזן הכוחות לטובתם. הגנות מבוססות AI יביאו לקיצור משמעותי בזמני תגובה, להפחתת מורכבות וליכולת לזהות ולנטרל סיכונים בזמן אמת".

ונדי וויטמור, ראשת תחום אבטחת מודיעין בפאלו אלטו. צילום: יח"צ

לפי חוקרי פאלו אלטו, "השנה תתאפיין בזיופים מבוססי-AI שיהיו בלתי ניתנים לזיהוי. זהות דיגיטלית הופכת לשדה הקרב המרכזי. דיפ-פייקים בזמן אמת ייצרו מציאות שבה קשה להבחין בין אמת לזיוף".

מגמה נוספת היא 'האיום החדש מבפנים': סוכני ה-AI יהיו יעד התקיפה המרכזי. הם פועלים בלא הפסקה וניגשים למערכות קריטיות. לכן, התוקפים יכוונו פחות לבני אדם וישתלטו ישירות על הסוכנים, להרחבת המתקפה מבפנים.

"חזית המתקפות הבאה", הוסיפו החוקרים, "היא הרעלת נתונים – פגיעה סמויה במידע המשמש לאימון מודלי AI כבר בשלב איסוף הנתונים. הפער שבין מדעני נתונים לצוותי אבטחה מאפשר ליצור דלתות אחוריות נסתרות ומודלים לא מהימנים, ויוצר משבר אמון עמוק במערכי ה-AI הארגוניים".

עוד צייינו כי: "המרוץ לאימוץ יכולות AI מתקדם במהירות, אך אבטחת יכולות אלו נותרת מאחור. השנה רק 6% מהארגונים יפעילו אבטחה מותאמת ל-AI, פער בעייתי".

הדפדפן עובר מהפך

"חזית הסיכון המרכזית של ה-AI", ציינו: "היא הדפדפן שעובר מהפך: מכלי לצפייה ולחיפוש מידע, לפלטפורמה 'סוכנית' שמבצעת פעולות בשם המשתמש. חלה עלייה של יותר מ-890% בתעבורת GenAI ומספר כפול של אירועי דליפת מידע, והדפדפן הופך לדלת הכניסה המרכזית למתקפות. ארגונים יידרשו למודל אבטחה שמיישם Zero Trust בתוך הדפדפן, לפני שהמידע יוצא מהרשת".

MCPs ישנו את מודל האיום

MCP הוא תקן ופרוטוקול, המאפשר למודלי AI להתחבר למערכות חיצוניות ולמאגרי נתונים. לפי חוקרי F5 Labs, ה-"MCP הופך במהירות ל-USB-C של סוכני AI: תקן חיבור שעובד בכל מקום וישולב במערכות ארגוניות, מגדיר כיצד סוכן מצהיר על יכולותיו ומפעיל כלים. זה יקל על התוקפים, שישפיעו על תוכן, וישדלו את הסוכן לפעול בלא גבולות. מודל האיום עובר מיישומים מבודדים לשרשראות החלטה מחוברות. האירועים לא ינבעו מבאג בודד, אלא מאינטראקציות לגיטימיות לכאורה, שייצרו תוצאה בלתי צפויה. סוכני AI יהפכו ליעד מרכזי של תוקפים".

אבטחה מבוססת מניע

"השנה", ציינו חוקרי F5, "ההגנה מפני בוטים תעבור מהוכחת אנושיות – לשיפוט מטרה. דפדפני וסוכני AI יהפכו לשגרה. האתגר הוא לא לחסום עוזרים, אלא להבין מה מנסה התרחיש להשיג והאם הדבר תואם מדיניות. ארגונים יפעילו תרחישים מוכווני מטרה: כך, המניע יתגלה דרך התנהגות ולא דרך תוויות המאשרות לסוכנים גישה".

החוקרים המשיכו וציינו כי "הסתמכות-יתר על פלטי AI תהפוך לאחד מסיכוני האבטחה המשמעותיים ביותר ב-2026. ככל ש-GenAI משתלב בתהליכי עבודה יומיומיים, מודלים וסוכנים לא רק ימליצו – אלא יפעלו. לבסוף, תשובה שגויה – אך בטוחה מדי – תיצור תגובת שרשרת שסופה נתונים או מסקנות לא אמינים. שרשרת האספקה של ה-AI תוסיף לחץ: מודלים עם נתונים מזוהמים יטו המלצות, יקדמו ספריות לא בטוחות או ידלגו על אימות".

פשיעת הסייבר: פעילות תעשייתית מונחית-AI

חוקרי FortiGuard Labs – גוף מודיעין האיומים והמחקר של פורטינט – כתבו כי "2026 תהיה נקודת מפנה בהתפתחות של פשיעת הסייבר. היא תתפתח לתעשייה מאורגנת, מבוססת אוטומציה ו-AI. אך ההצלחה, בהתקפה ובהגנה, תיקבע פחות על ידי חדשנות ויותר על ידי קצב התפוקה: כמה מהר אפשר להפוך מודיעין לפעולה".

לפי החוקרים, "כיוון ש-AI, אוטומציה ושרשרת אספקה בשלה של פשיעת סייבר יהפכו את החדירה לרשת למהירה וקלה מאי פעם, התוקפים יבזבזו פחות זמן בפיתוח כלים חדשים ויותר זמן בשיפור ואוטומציה של טכניקות שכבר עובדות. מערכות AI ינהלו איסוף מודיעין מקדים, ירחיבו את ניסיונות החדירה, ינתחו נתונים גנובים ויפיקו משא ומתן על כופר". במקביל, צופים חוקרי פורטינט, "סוכני פשיעת סייבר אוטונומיים ברשת האפלה יתחילו לבצע שלבי תקיפה שלמים עם פיקוח אנושי מינימלי. שינויים אלה ירחיבו בצורה מעריכית (אקספוננציאלית) את קיבולת התוקפים. תוקף בכופרות ישיק עשרות קמפיינים במקביל. המהירות תהפוך לגורם הסיכון העיקרי עבור ארגונים ב-2026".

הדור הבא של ההתקפה: "נראה את הופעתם של סוכני AI בעלי התמחות, שיסייעו לפושעים. הם לא יפעלו עצמאית, אך יבצעו אוטומציה וישפרו שלבים בשרשרת התקיפה, כולל גניבת פרטים אישיים, תנועה רוחבית ברשת ומוניטיזציה (היוון) של נתונים. ה-AI תאיץ את המגמה, והתוקפים יבחרו קורבנות לפי ה'ערך' מהגניבה מהם. פשיעת הסייבר תאיץ את התפתחותה לעבר תיעוש מלא".

"פעולות האבטחה יתקרבו ל'הגנה במהירות מכונה' – תהליך רציף של מודיעין, אימות והכלה, שמצמצם את האיתור והתגובה משעות לדקות. עד 2027, פשיעת הסייבר תתרחב ותשתווה לתעשיות גלובליות לגיטימיות".

דרק מאנקי, אסטרטג אבטחה ראשי וסגן נשיא מודיעין איומים גלובלי בפורטינט. צילום: BigStock

לדברי דרק מאנקי, אסטרטג אבטחה ראשי וסגן נשיא מודיעין איומים גלובלי בפורטינט, "גם המגנים יצטרכו להתפתח, תוך שימוש במודיעין חזוי, אוטומציה וניהול חשיפות. השלב הבא באבטחה יהיה תלוי ביעילות שבה בני אדם ומכונות יוכלו לפעול יחד כמערכות אדפטיביות".

ולסיום, פרופ' הינטון. כשפרש מגוגל אמר "חלק ממני מתחרט כעת על מפעל חיי", וקרא לרגולציה ממשלתית על טכנולוגיית AI.