"שליטה בכל שרשרת אספקת ה-AI – מרכיב קריטי בהגנה"

"בין 2025 ל-2026 חל שינוי גדול, וכיום יש מודלי בינה מלאכותית בעלי יכולות סבירות, אבל עם פחות אמצעי הגנה. מנגד, יש שמירה מופרזת על דגמים מסחריים. לכן, ריבונות ה-AI תהיה מקום לשיח בין ממשלות וחברות. הבינה המלאכותית היא נכס שיש לו ערך רב יותר, והיא מגיעה עם סיכון נוסף, מחשש שתפגע באבטחה במצב קריטי. לכן נדרשות שליטה וריבונות: אם המגינים לא שולטים בכל שרשרת האספקה של הבינה המלאכותית, האבטחה נפגעת", כך אמר ולדימיר קרופוטוב, חוקר ראשי בצוות מחקר האיומים של TrendAI (לשעבר טרנד מיקרו), בראיון לאנשים ומחשבים.

קרופוטוב ציין כי "כבר קרו מקרים שבהם הבינה המלאכותית סירבה 'להשתתף' באוטומציה של פעולות תגובה לאירועים, 'מתוך מחשבה' שמדובר בפעולות התקפיות. סוכן ה-AI שברח מסביבת הבדיקה של OpenAI ותקף את הפלטפורמה של Hugging Face ושירותים נוספים ברשת הוא רק אחד המקרים. יש מצבים דומים".

אתגר נוסף לרשימה הלא נגמרת

"אתגרי המגינים בסייבר לעולם לא מסתיימים ונוספה להם עוד בעיה, שלטעמי היא הגדולה ביותר עכשיו: מחסום הכניסה לתוקפים, כדי שיוכלו ליישם מתקפות, הוא מאוד נמוך, וה-AI מסייעת לרעים בכך. למשל, בניית מבצעי השפעה, שבסופו של יום מנוהלת על ידי אדם אחד. לדוגמה, פעולות שארכו שעות או יותר, דוגמת השגת שליטה ובקרה על מערכות הקורבן, התקצרו בעזרת הבינה המלאכותית, וכעת ניתן לבצע אותן תוך דקות ספורות", הוסיף. "ההאקרים כבר לא צריכים ללמוד ולהתאמן ב-'אוניברסיטה' של חיי הפשע המקוון במשך שנים. עכשיו מחסום הכניסה הזה נמוך".

"עוד אתגר שהבינה המלאכותית מעצימה הוא מספר המתקפות והקצב שלהן", אמר קרופוטוב. "זה קריטי, כי משאבי המגינים מוגבלים, ואז עליהם להחליט ולהתפשר: האם להעמיק ולחקור אירוע ספציפי – או להמשיך לצוד איומים ולזהות מתקפות פוטנציאליות על הארגון שלהם?".
"כמו כן", אמר, "היבט הייחוס של האיום הוא מאוד חשוב, כי על המגינים לדעת מהן כוונות התוקף ומה יכולותיו".

קרופוטוב הצביע גם על האתגר הטמון באינטרנט של הדברים: "כל ציוד IoT יכול, ועלול, לספק מידע חשוב הן לפושעי סייבר והן להאקרים שפועלים בגיבוי ובחסות מדינות לאום. ניתן להבין ולקצור נתונים מציוד ה-IoT ולעשות זאת בקלות יחסית. יש להגן על העולם הזה בסיוע בינה מלאכותית, עם התאמות והצלבות".

מהצד השני

החוקר הבכיר ציין גם התפתחות חיובית – הסיוע שהבינה המלאכותית מציעה לצוותי האבטחה בהתמודדות עם סביבות ה-IT המורכבות. "ה-GenAI מתפקדת כאנליסט. היא יכולה, לפעמים, לסייע למגינים בהסקת המסקנות, ולקבוע שאסופת העצים היא יער. לעתים זה לא מועיל, אבל לפעמים זה רמז חשוב לטיפול בנושאים מאוד ספציפיים", אמר.

כדוגמה לכך סיפר קרופוטוב כי הוא ואנשיו ניתחו פוסט שפורסם בפורום של פושעי סייבר באנגלית, ו-"רק שילוב של מיומנויות אנושיות עם אלה של AI אפשר לנו לזהות שהכותב הוא בכלל ממוצא סיני. בני אדם לבדם לא היו מצליחים לזהות זאת. לבינה המלאכותית יש יכולת לחבר בין הנקודות בצורה איכותית יותר, לאתר נקודות נדירות ולשלב ביניהן באופן מושכל. כך, בתרחישים מסוימים, הבינה המלאכותית יכולה להיות מועילה אפילו לאנליסט הטוב ביותר".

מי ינצח בסוף במרוץ הארוך של הפיכת הסייבר לנשק – הטובים או הרעים?
"אין לדעת. מה שאני כן יכול להגיד על זה הוא שהיתרון של הרעים הוא שהם מתעלמים מכל היבט או השפעות מוסריות. האתיקה של הרעים הלכה והצטמצמה לעומת מה שהיא הייתה לפני 5-10 שנים. נכון שיש תוקפים מדינתיים לאומיים, ועדיין, יש להם מגבלות מסוימות על המטרות. פושעים, לעומתם, כמו פושעים, יעשו כמעט את הכול. הם יתקפו איפה שירצו ויגיעו להיכן שקל להגיע אליו. מה שהופך את המגינים לטובים יותר הוא המומחיות שלהם. זה הערך שלהם. התוקף הממוצע הוא בעל פחות מומחיות לעומת המגן. אם המגינים ידעו לנצל את המומחיות הזאת – הם אלה שינצחו".