"נכנסו שחקנים חדשים לארגון: צריך לזהותם ולנטר את פעילותם"

"כניסת הבינה המלאכותית לסוגיה, ובתוכה בינה מלאכותית סוכנית, מציפה אתגר חדש לצוותי האבטחה: נכנסו שחקנים חדשים למגרש ה-IT – סוכני AI. לא תמיד אנו יודעים מי הם, בשם מי הם פועלים והיכן. עלינו לברר האם הם עובדים לפי מדיניות האבטחה הארגונית, וגם – לפעילות שלהם יש עלויות. ארגונים נדרשים לפתרון הגנה חוצה מערכות, שבנקודה אחת יערוך בקרה על כלל תהליכי ה-AI הרצים בארגון", כך אמר עוז ארדזי, מנהל תחום פתרונות אבטחת מידע ו-AI בחטיבת ברודקום (Broadcom) בנספרו (NessPRO), קבוצת פתרונות התוכנה של נס (Ness).

לדברי ארדזי, "בתוך עולם האבטחה, האתגר החדש הוא אבטחת שירותי API, גישה למידע רגיש והפעלת כלים ארגוניים עבור עולם ה-AI. יש לוודא שהנגשת המידע תותאם להתנהגות הבלתי צפויה של סוכני ה-AI, תיערך בצורה מבוקרת תוך עמידה ברגולציות, הרשאות ואימות המשתמשים, וניהול וניתוב התעבורה. רק כך יתקבלו מערכות בעלות יציבות, זמינות גבוהה ויכולות שליטה וניהול".

"בעבר", ציין, "אבטחת ה-API הייתה בין האפליקציה למשתמשים, וידענו מה הם יעשו באפליקציות, עם זהויות והרשאות שנקבעו מראש. כעת, עם כניסת השחקנים החדשים בדמות הסוכנים, אנו נתקלים בכמה שאלות: מה הסוכנים עושים? באיזה קצב? האם הם טיפלו במידע רגיש או אסור לשימוש? מדוע הם עושים את מה שהם עושים? האם מה שהם עושים אסור? האם הם מתנהגים באופן לא צפוי? בשם מי הם פועלים: המפתחים, הלקוחות או הספקים? על כל אלה בא אתגר נוסף: FinOps for AI – לכל אחת משתי דרכי הצריכה של AI, מנוי עם מכסה או תשלום לפי שימוש, יש עלויות ונדרש לערוך עליהן בקרה".

להבדיל בין תעבורה רגילה ותעבורת AI 

"אל מול שלל האתגרים החדשים הללו", אמר ארדזי, "ארגונים חייבים נראות. עליהם להבדיל בין סוגי התעבורות – תעבורה רגילה ותעבורת AI. לכל אחת מהן יש התנהגות שונה. אחרי ההבחנה ומיפוי התעבורה, יש לעבור לשלב ניהול הזהויות באופן ספציפי: לא להשאיל זהות אנושית עבור סוכן, לנהל הרשאות מצומצמות עבור פעולת הסוכן ולתת לו אישור קצר טווח לפעילות".

לדבריו, "פתרון Layer7 API Gateway של CA לשעבר, מבית ברודקום, משלב ניהול עומסי עבודה, ממשל ואבטחת AI כדי לגשר בין תשתית ה-IT הארגונית למודלי שפה גדולים (LLMs).

הפתרון של CA לשעבר, מבית ברודקום, משלב ניהול עומסי עבודה, ממשל ואבטחת AI כדי לגשר בין תשתית ה-IT הארגונית למודלי שפה גדולים, LLMs. היכולות המרכזיות שלו כוללות את Agentic Identity Fabric לאבטחת סוכני AI אוטונומיים. יכולת נוספת היא תמיכה בתעבורת MCP (ר"ת Model Context Protocol), שהוא פרוטוקול המאפשר לחבר את המודל לכלי חיצוני ממש כמו שמחברים אפליקציה לשירות אינטרנטי, עם שער AI ייעודי".

"הפתרון", אמר ארדזי, "מהווה נקודת כניסה אחת ויחידה לכל תהליכי ה-AI הרצים בארגון: זו הנקודה בה מתנקזים התהליכים, שם מיושמים הבקרה, ההגנה והשליטה על תהליכי ה-AI". 

"מדובר בפתרון הוותיק שנוספו לו יכולות בעולם ה-AI", ציין. "הוא מוטמע בישראל בכמאה ארגונים ממגזרי הפיננסים, הטלקום והציבורי-ממשלתי. הוא הוטמע בסוף העשור הקודם בפרויקט 'שדרת המידע' – תשתית העברת המידע בין משרדי הממשלה והרשויות. בין היתר הוא נמצא במשרד המשפטים, במימון ישיר, בפרטנר (Partner) וארגונים נוספים".

"הפתרון מתמקד בהגנה, תיעוד ושליטה על תהליכי AI בארגון, ובפרט פעילות הסוכנים למול ה-API, ונועד לאכוף את ההגנה על התעבורה ועל המידע. ארגונים שהטמיעו אותו כבר, יכולים למנף את היכולות שבמוצר לא רק לטובת טיפול ותפעול בעולם ה-API, אלא גם לבקרה ולסינון תעבורה מבוססת AI". 

לדבריו, "שליטה על תעבורת ה-AI מנטרלת ביצוע פעולות אסורות על ידי הסוכן, שולטת בתהליכים ומביאה לצמצום עלויות שימוש גבוהות ב-AI, בשל צריכת טוקנים". 

"אנו צופים כי השנה וב-2027 נרחיב את מעגל הלקוחות הארגוניים שיטמיעו את הפתרון", סיכם ארדזי. "בשל הגידול האקספוננציאלי שארגונים עושים בתחום. הוא מעניק לא רק אבטחת מידע 'טהורה', אלא גם מענה לרגולציות ולהגנת הפרטיות. ברודקום בנתה לפתרון מפת דרכים, כדי להמשיך ולתמוך באימוץ AI בארגונים באופן מאובטח, עם אבטחת השכבה הסוכנית".