סוכני ה-AI הם האיום הפנימי החדש בארגונים

"סוכני הבינה המלאכותית הם האיום הפנימי החדש. יש להתייחס אליהם כאל עובדים סוררים ובלתי ממושמעים", כך אמר ד"ר אורן איתן, מייסד ומנכ"ל אודיקס.

לדבריו, במשך שנים ארגונים בנו מדיניות אבטחה, בקרות ומנגנוני ניטור להתמודדות עם איומים פנימיים. אלא שהופעתם של סוכני AI משנה את המשוואה: ככל שהאוטונומיה והגישה שלהם מתרחבות, כך גובר הסיכון לפעילות פנימית שקשה יותר לחזות, לזהות ולשלוט בה.

"זהו שינוי פרדיגמה באבטחת סייבר ארגונית", אמר איתן.

פועלים בתוך הארגון, במהירות מכונה

אודיקס פועלת בתחום הסרת פגיעויות ונוזקות לא ידועות מקבצים, באמצעות טכנולוגיות הלבנה, והיא פועלת בתחום Zero Trust for Data. איתן, אלוף משנה במילואים, שירת בעבר באגף התקשוב וההגנה בסייבר בצה"ל, ובתפקידו האחרון היה מפקד יחידת מצו"ב.

בראיון לאנשים ומחשבים הסביר איתן כי סוכני AI פועלים בתוך הארגון, מקבלים גישה למערכות, ליישומים ולמידע רגיש, ויכולים ליצור, לשנות ולהפיץ תוכן באופן עצמאי.

"בניגוד לעובדים בני אנוש, הסוכנים יכולים לבצע פעולות במהירות מכונה, בקנה מידה עצום, ולעיתים קרובות בלא פיקוח אנושי ישיר", אמר.

שני סוגים של איום

לדברי איתן, לאיום החדש יש שני ממדים. הראשון הוא סוכני AI לגיטימיים שעלולים להפוך למסוכנים. הם עשויים להיות נתונים למניפולציה מצד גורמים עוינים, להיפרץ, להיות מוגדרים באופן שגוי או להתנהג בדרכים בלתי צפויות.

לדבריו, פעילות כזו עלולה לפעול נגד האינטרסים של הארגון, גם ללא כוונת זדון.

הממד השני הוא סוכני AI זדוניים, שתוקפים מחדירים בכוונה לסביבה הארגונית. מרגע שהם פועלים בתוך הארגון, הם עלולים לבצע באופן עצמאי פעולות זדוניות, לנצל משאבים זמינים ולפגוע במערכות ובנתונים.

"ההבחנה המסורתית בין פעילות פנימית אמינה לבין פעילות חיצונית שעלולה להיות עוינת הופכת להיות פחות רלוונטית", אמר איתן.

לדבריו, ארגונים נדרשים לחשוב מחדש על ניהול הסיכונים הפנימיים שלהם. "ההנחה שקבצים ותוכן אשר נוצרו, שונו או הופצו בתוך הארגון, ולכן הם אמינים יותר במהותם, כבר אינה מובנת מאליה".