"חשוב להכניס ג'מיני אנטרפרייז לארגונים – באופן מושכל ומוגדר מראש"

"מחקרים מעלים שעד סוף השנה, 40% מהארגונים יפרסו בינה מלאכותית בסביבת הייצור שלהם. זה מאוד משמעותי לעולם ולאנשי האבטחה. אם בעבר ידענו לחזות תהליכים ואיומים – הרי שכניסת AI לעולם זה משנה את המשוואה: איננו יודעים מה יקרה, מה גודל משטח התקיפה וכיצד לנהל אותו. אם נכניס תהליכי AI מבלי להכיר את סיכוני אבטחת המידע ואת הארכיטקטורה – נגדיל את הסיכון ממשטחי התקיפה. אנו בעיצומו של מעבר מעידן הצ'טבוט, לעידן הבינה המלאכותית הסוכנית, וג'מיני (Gemini) עבור ארגונים מגדיר מחדש את החזר ההשקעה ב-IT. אם לא ניישם תהליכי AI היום – נשאר מאחור. חשוב להכניס AI לארגונים באופן מושכל ומוגדר מראש. אסור למנהלי האבטחה למנוע התפתחות טכנולוגית בגלל חוסר ידע – עליהם.ן להיות בקדמת הטכנולוגיה ולדעת לכוון את ה-AI בצורה מאובטחת", כך אמר הראל בשירי, מומחה מערכות הגנה ותקיפה לעולמות הענן בנס קלאוד (Ness Cloud).

בשירי דיבר בוובינר שערכה החברה בשבוע שעבר, בנושא "כך Gemini Enterprise מגדיר מחדש את ה-ROI ב-IT הארגוני", בשיתוף גוגל קלאוד (Google Cloud).

לדבריו, "AI בסביבת הייצור היא משמעותית, ונוגעת לארכיטקטים, לאנשי האבטחה וה-DevSecOps. נכון שקריטי להכניס AI לארגונים – אבל עוד יותר קריטי להבין את חשיבות הגנת הסייבר".

"הצ'טבוט", אמר בשירי, "עובד, אבל הוא מהעולם הישן. עולמות הבינה המלאכותית הסוכנית שונים לחלוטין: סוכן AI מתחבר לרכיבים רבים במערכות הארגון, מתחבר לכלי גוגל (Google) וגם למערכות חיצוניות. הקשרים והחיבורים הללו הופכים את ארכיטקטורת Agentic AI, עולמות הענן וה-IT שלנו, לחשובים מאוד בהגנת הסייבר".

ג'ף דהן, AI Outcome Engineer ב-גוגל קלאוד. צילום: עיבוד ממוחשב. מקור: יח"צ

AI מעניקה סטרואידים לתוקפים

לדברי בשירי, "בעבר הכרנו את ההתנהגות של וקטורי התקיפה. כיום – בעולם השופע AI – הווקטורים שודרגו עם סטרואידים. יש משבר באבטחה בשל צמיחת שלושה וקטורים של תקיפה: משבר הזהויות, דליפת נתונים והזרקת קוד (אסור)". לדבריו, "בעולם הזהויות, המשולב ב-AI, יש להגדיר: מי זה הסוכן, מה ייעודו? מה הוא עושה ומה עלול לעשות מאחורי הקלעים?".

בשירי הוסיף כי "אחד האיומים המרכזיים בתחום הוא מתקפת Prompt Injection – שבה סוכן AI מקבל הנחיות זדוניות ממסמכים או מקורות מידע שהוא קורא ומעבד. אירוע שכזה עלול להתפתח במהירות לווקטורי תקיפה נוספים, להרחבת משטח התקיפה הארגוני ואף לשילוב בין וקטורי תקיפה שונים – לכדי שרשראות תקיפה חדשות, מורכבות ומתוחכמות. עוד איום הוא דליפת מידע רגיש, בשל הרשאות עודפות, שיתופים שלא הוסרו או גישה בלתי מבוקרת של הסוכנים למידע ארגוני. סוכני AI יורשים אוטומטית את מנגנוני ההרשאות הקיימים: כל חולשה במבנה ההרשאות עלולה להפוך לחשיפה מהותית".

"בטרם חיבור מערכות AI למידע הארגוני, יש לבצע תהליך מוקפד של ניקוי הרשאות, סיווג מידע, צמצום גישות ויישום עקרונות Zero Trust ו-Least Privilege", ציין בשירי. "המוטו הוא 'עקרון הירושה': AI היא זכוכית המגדלת שלכם. ג'מיני אינו עוקף את מנגנוני ההרשאות – אלא יורש אותם אוטומטית".

בשירי הקביל את מודל שבע השכבות המוכר לשבע שכבות של הגנה שצריך להגן באמצעותן על מודלי ה-AI השונים: "אין פה נקודת כשל יחידה – כי כל השכבות העוטפות מגינות על ליבת המודל".

"יש כמה כללים לעבודה מאובטחת בסביבת ג'מיני", אמר, "ערכו תמיד מבחני הדמיה, דאגו שהגישה להרשאות תהיה מינימלית, העניקו זהות חדשה לכל סוכן, ודאו שהגדרת המשתמשים נכונה, ומה הדאטה שנחשף לכל סוכן, איזו רגולציה רלוונטית, מהי רמת הסיכון שנחשפים אליה, ואיך מנטרים ומונעים את הסיכונים".

ג'ף דהן, AI Outcome Engineer ב-גוגל קלאוד, הציג את ג'מיני הארגוני ותיאר אותו כפלטפורמה ארגונית-סוכנית. הוא הראה הדגמה חיה של יצירת סוכנים ללא קוד, הגדרת ישויות, בחירת מודלים וחיבור מחברים (קונקטורים) למקורות ארגוניים.

 "אנו בעידן בינה מלאכותית סוכנית", אמר. "כשהסוכן רץ, הוא מביט על תוכן ארגוני. בעבר לקח שעות לאגד מידע זה – והסוכן עושה זאת בתוך דקות. פה נכנס ממד הבקרה: כשג'מיני מקבל הוראות לחפש משהו, עולה חשיבות הבקרה האנושית: יש לוודא מה נשלח בטרם המשלוח למניעת טעויות וחשיפה. הוא פועל בעקביות, חוסך זמן משתף, וכשהוא רץ עבורי, זה מהלך משנה משחק".

"ג'מיני לארגונים הוא פלטפורמה מוכחת לעבודה עם דאטה ארגונית, ואבטחת המידע מובנית בו באופן מוכלל. האבטחה היא 'אזרחית כבוד' של הענן שלנו", סיכם דהן את דבריו.