"ריבוי סוכני AI באבטחה עלול ליצור כאוס"

"ככל שארגונים משלבים יותר ויותר סוכני בינה מלאכותית במערך האבטחה שלהם מסתמן אתגר חדש: Agent Sprawl – התפשטות וגידול לא מבוקר של הסוכנים. כך, עלול להיווצר מצב, שבו כמה סוכנים אוטונומיים מטפלים באותו אירוע במקביל, מבצעים פעולות חופפות ואף מתחרות. אם הסוכנים של כולם יעבדו ויגיבו אוטומטית באותו הזמן – זה הולך להיות מאוד מכוער", כך אמר ג'יימס רובינסון, מנהל אבטחת המידע של נטסקופ (Netskope).

לדבריו, "צוותי אבטחת מידע מתמודדים כבר שנים עם מצב של ריווי כלי אבטחה ומערכות, מה שמקשה על הניהול, השליטה והתיאום. כעת, עם החדירה המואצת של סוכני AI למרכזי תפעול אבטחה, SoC, מסתמן אתגר דומה ומורכב אף יותר. יותר סוכנים מקבלים הרשאות לסייע לאנליסטים בביצוע משימות, לחקירת אירועים ותגובה לאיומים, ואז עולה הסיכון שכמה סוכנים יטפלו באותו אירוע ובאותו הזמן".

רובינסון הציג תרחיש, שהופך, לדבריו, "לריאלי יותר ויותר: לכל אנליסט במרכז האבטחה יש כמה סוכנים הפועלים במקביל. מה קורה כשיש לנו שישה סוכנים שמגיבים לאותו אירוע אבטחה באותו הזמן? לדוגמה, עובד בארגון מדווח על הודעת דוא"ל החשודה כפישינג. כלל הסוכנים יציעו לאנליסט לעזור לו: לאסוף ראיות או לבצע פעולות תגובה. זה הולך להיות מאוד מאוד מבולגן ומבלבל".

"הסוגייה כבר מעסיקה מנהלי אבטחת מידע שמתכננים את השילוב של סוכני ה-AI במערכי האבטחה שלהם", אמר, "אחת השאלות שעולות היא, האם יש להגדיר לסוכנים במפורש לזהות פעילות של סוכנים אחרים ולפעול בהתאם. אני מציע גישה של 'זיהוי התנגשויות', Collision Detection  לסוכני AI. ליצור מנגנון שיאפשר לסוכן לזהות שסוכן אחר כבר מטפל באירוע מסוים: למשל, שהוא כבר ביקש עדויות וראיות, פתח בחקירה, או ביצע פעולת תגובה. כך ניתן יהיה למנוע כפילות או התנגשות בין פעולות".

"בלא מנגנון תיאום כזה", הזהיר רובינסון, "האוטונומיה שארגונים מעניקים לסוכני AI עלולה להפוך בעצמה לבעיה תפעולית. אם הסוכנים של כולם מעבדים ומגיבים באופן אוטומטי באותו הזמן – זה יהיה מאוד מכוער".

"עבור מנהלי אבטחת מידע", סיכם רובינסון, "המשמעות היא שהמעבר לעולם התוכן של סוכני AI ב-SoC לא מסתכם רק בשאלה אילו משימות ניתן להעביר לסוכנים אוטונומיים. ככל שמספר הסוכנים יגדל ורמת האוטונומיה שלהם תתרחב, ארגונים יצטרכו להגדיר גם מי מנהל אותם, כיצד הם מתקשרים זה עם זה, מי מקבל קדימות במקרה של התנגשות – ומתי נדרשת התערבות אנושית".