הבינה המלאכותית הפכה מכלי תקיפה למפעילה עצמאית של מתקפות

בועז דולב, מייסד ומנכ"ל קלירסקיי, מזהיר כי הבינה המלאכותית כבר אינה משמשת רק ככלי עזר בידי תוקפי סייבר, אלא הופכת בהדרגה למפעילה של חלקים נרחבים מהמתקפה עצמה.

"כותר הסרט 'בוקר טוב וייטנאם', בכיכובו של רובין וויליאמס, מסמל את הטירוף בשדה הקרב שהתחולל שם", אמר דולב. "טירוף זה קיים כיום גם בעולם הגנת הסייבר, בשל הופעת הבינה המלאכותית לסוגיה. הרבה השתנה בשל כך, אבל התובנה המשמעותית היא שהבינה המלאכותית הפכה מעוד כלי עזר לביצוע פריצה למפעילה עצמאית של מתקפות. שינוי זה דורש מענה חדש מצד המגנים".

דולב דיבר היום בפורום CSC מבית אנשים ומחשבים, שנערך ביס פלאנט ראשון לציון. את המפגש הנחה יהודה קונפורטס, העורך הראשי של הקבוצה.

המתקפות מתקצרות משעות לשניות

לדברי דולב, אחת ההתפתחויות המשמעותיות ביותר היא הקצב. "קצב המתקפות התקצר ואורך שניות ודקות, ולא שעות וימים", אמר. עם זאת, לדבריו, ניתן כבר כיום לעצור לפחות חלק מהמתקפות המבוססות על בינה מלאכותית באמצעות הכלים הקיימים.

לדבריו, ההגנה צריכה להתמקד בשלושה צעדים מרכזיים: שליטה בפניות למודלים, הטמעת מגבלות קצב וחיוב אישור אנושי לפני פעולות רגישות, כמו בקשה למחיקת מידע.

דולב חילק את מידת המעורבות של בינה מלאכותית במתקפות לארבע רמות: סיוע בסיסי, שימוש מתקדם, שימוש מבצעי ושימוש אוטונומי. "המדד מתאר את עומק השילוב של הבינה המלאכותית במתקפה, ולא את מידת חומרת הנזק שנגרם ממנה", הסביר.

מסיוע לתוקף לביצוע כמעט עצמאי

"בשנתיים האחרונות אנחנו עדים למעבר של הבינה המלאכותית מסיוע לתוקף למצב שבו הסוכן הוא זה שמבצע את המתקפה", אמר דולב. לדבריו, ב־2025 כבר נצפו נוזקות ששילבו מודלי שפה ביצירת קוד דינמי, ובהמשך נרשמו קמפיינים שבהם סוכנים ביצעו את מרבית שלבי הפעולה.

אחת הדוגמאות הבולטות לכך נחשפה על ידי אנתרופיק, שתיעדה קמפיין ריגול שבו מערכת מבוססת Claude ביצעה, לפי הערכת החברה, בין 80% ל־90% מפעולות התקיפה. ההתערבות האנושית נדרשה בעיקר בנקודות החלטה מרכזיות.

דולב ציין ארבע דרכים שבהן מנועי בינה מלאכותית משתלבים כיום במתקפות: כסוכן שמפעיל את התקיפה, כמודל שאליו נוזקה פונה בזמן הריצה, באמצעות ניצול מערכות הבינה המלאכותית של הארגון עצמו, וככלי שמאיץ את ההכנה והביצוע של המתקפה.

לדבריו, חוקרי קלירסקיי בחנו 17 אירועי סייבר מהשנה האחרונה שבהם הייתה מעורבות של בינה מלאכותית. "המתקפות היו מכל הסוגים והתוקפים: ריגול מדינתי, מתקפות כופרה וגניבות פרטי אשראי", אמר. "הקורבנות היו ממשלות, בנקים, ספקיות ענן וארגוני תעשייה וייצור. גם ארגונים בישראל היו בין המותקפים".

סוכן AI שסייע למתקפת כופרה

דולב הציג בין היתר את פעילות קבוצת הכופרה Aurora, שבמהלכה נעשה שימוש ב־Cursor Agent עם מודל Claude Sonnet לצורך סיוע בפעולות תקיפה נגד כמה יעדים.

לפי מחקר חיצוני שפורסם על הקמפיין, הסוכן שימש בין השאר לסריקת סביבת הקורבן, להצעת צעדי פעולה ולביצוע פעולות טכניות. המפעיל האנושי נותר בתמונה, אך חלק ניכר מהעבודה הטקטית בוצע בסיוע הסוכן.

בשלב מתקדם של הפעילות הותקפו גם שרתי ESXi באמצעות כופרה שיועדה לסביבות וירטואליזציה.

דולב אמר כי באחד התרחישים "המפעיל נעזר בסוכן, הסוכן הציע לו צעדי פעולה עתידיים והמפעיל האנושי בחר כמה מהם". לדבריו, זו המחשה למעבר ממודל שבו הבינה המלאכותית רק מספקת מידע, למודל שבו היא משתתפת בפועל בביצוע התקיפה.

הקרב עובר לקצב מכונה

במבט ל־2027, דולב מעריך כי ארגונים יידרשו להתמודד עם הזרקת שאילתות ומידע נגד מערכות בינה מלאכותית ארגוניות, עם גידול נוסף בפישינג ובדיפ־פייק ועם מתקפות בקנה מידה רחב יותר.

לדבריו, גם מערכי ההגנה יצטרכו להשתנות. "מערך זהות חזק, המבוסס על הזדהות כפולה ומשולשת, יהיה קו חזית. גם ההגנה תשתפר ותעבור לפעול בקצב מכונה".

בישראל, הוסיף, הבינה המלאכותית צפויה לשמש מכפיל כוח גם עבור שחקני איום מאיראן, בין היתר באמצעות פישינג ממוקד, הדלפות ולוחמה פסיכולוגית.

"הבינה המלאכותית לא המציאה טכניקות מתקפה חדשות, היא שינתה את הקצב שלהן", סיכם דולב. "הסוכן חייב לפנות למודל, והוא מהיר מדי. אפשר לעצור את המתקפות החדשות כבר כיום, עם הכלים הקיימים. אנחנו בשדה הקרב של הבינה המלאכותית. כל מה שנשאר לנו הוא לשמור על מוראל גבוה".