"AI בהגנת סייבר: מכפיל כוח אבל גם פיל בחנות חרסינה"

"כבר היום, כניסת יכולות הבינה המלאכותית לעולמות אבטחת המידע והגנת הסייבר מהווה מהפכה של ממש, שמביאה קפיצה דרמטית לתחום. השלב הבא יהיה סוכני AI, שיאפשרו יכולות חדשות ויחזקו אותו משמעותית. הבינה המלאכותית מהווה מכפיל כוח לכל איש מקצוע, אך יש לה גם מאפיינים של 'פיל בחנות חרסינה'. בניצול לרעה של הטכנולוגיה, תוך שימוש במשטחי התקפה חדשים, קיים פוטנציאל נזק גדול, שעלול לאפשר קבלת הרשאות אסורות, למשל, או חדירה למערכות הארגון", כך אמר אלון פרוינד, חוקר סייבר במעבדת המחקר והפיתוח של יבמ (IBM) בבאר שבע. המתקן בב"ש הוא חלק ממעבדת המחקר של הענק הכחול בישראל.

פרוינד דיבר בכנס שערך הסניף הישראלי של יבמ באחרונה, בהפקת אנשים ומחשבים, במלון ממילא בירושלים. השתתפו בו יותר מ-100 לקוחות החברה בארץ. את הכנס, שנשא את הכותרת "בינה ציבורית, בינה פרטית", הנחה ליאור חקלאי, מוביל תחומי הבינה המלאכותית והדאטה ביבמ ישראל.

אבטחת סוכני AI

בראיון לאנשים ומחשבים אמר פרוינד כי "בין שאר המחקרים שצוותי המחקר והפיתוח של החברה מובילים, אנו בוחנים דרכים לשפר את אבטחת הסוכנים, ולוודא שהם פועלים באופן מאובטח – כדי למנוע מצב שבו פעולותיהם יגרמו לנזק או ינוצלו לרעה". פרוינד ציין כי "ניתן לקדם את שני התחומים במקביל: מחד, מינוף יכולות AI לטובת הגנת סייבר משופרת – כמו למשל העצמת האנליסטים, עם יכולות ניתוח מבוסס AI לחקירת אירוע סייבר, או היערכות לקראתו, ומנגד – הוספת ממד אבטחה בעולמות החדשים של סוכני ה-AI".

"אבטחת הסביבה של AI", הסביר פרוינד, "גדלה ומתחדשת. ראשית, יש להבחין בין סוכנים ואפליקציות מסורתיות. הסוכנים שונים מאפליקציות, הם ישות מאוד דינמית, שנעה במנעד שבין הגדרתם כ'הרחבה של המשתמש' למשהו עצמאי. כיוון שהם פועלים באופן עצמוני, ויש להם גישה למידע ארגוני מסווג, רגיש ורחב, חייבים להבטיח מנגנוני אבטחה ובקרה הדוקים, למנוע את ניצולם לרעה".

למשל, הסביר פרוינד, "יש לוודא שהם פועלים לפי מדיניות הארגון, שמוגדרת מראש, משתמשים בהרשאות מוגבלות זמן ותואמות הקשר, ולא מפיצים מידע רגיש כגון נתונים פרטיים, פרטי שכר ועוד. עם כניסת סוכני ה-AI, הגבולות הברורים שבין תפקידים בארגון מיטשטשים, מה שהופך את ניהול הזהויות וההרשאות הקלאסי למאתגר. המטרה: לוודא שהסוכנים לא יהפכו לעוד וקטור למתקפה".

"אסור להגיע למצב בו תוקף מסוגל להזריק לסוכן משימה בכוונה זדונית, ובמסגרת זו, הסוכן יעשה שימוש לרעה בהרשאות, ויסב נזק אבטחה לארגון", אמר, "צריך לוודא שהסוכן פועל לפי ההנחיות שקיבל, ולא מפר אותן".

"באחרונה", סיפר פרוינד, "אנחנו מתמקדים גם במודלי השפה הקטנים, שמתאימים במיוחד למערכות סוכני AI – בשל היעילות, ההתאמה למשימות ממוקדות והחיסכון בעלויות".

"מודלי השפה שלנו", פירט פרוינד, "מתמחים בסייבר, ומסוגלים להתחרות במודלים הגדולים והסגורים. המודלים הפתוחים שאנחנו מאמנים, מאפשרים למשתמשים ולאנליסטים גישה למומחיות בתחום אבטחת המידע ושיפור משמעותי בעבודתם היום-יומית. הביצועים של המודלים מתאפשרים בשל המיקוד באימון המודלים ומאפשר להם שימוש בידע עדכני ורלוונטי לתחום".

"המודלים שאנו מאמנים", ציין, "יכולים לשמש במנוע של סוכני AI, ולאפשר להם לבנות תובנות על איומים עתידיים, פעילות פוטנציאלית של תוקפים ולהביא להפחתה של ציד איומים ידני. כך ניתן להגדיל את יכולות ניתוח האבטחה בארגון, להאיץ את זיהוי האיומים, לחקור התראות עם מידע מועשר ועם הקשר, ולהתמקד באיומים בעדיפות גבוהה – במקום לבזבז זמן יקר על סיכונים בעדיפות נמוכה".

"מעבדת המחקר בה אני שותף לעשייה החלה לפעול לפני 11 שנים", סיפר, "התחלנו כקבוצת חוקרים קטנה באוניברסיטת בן-גוריון בנגב, ומאז גדלנו בהיקף כוח האדם ופעילות המחקר, ועברנו למתחם גב-ים בבאר שבע. בין השאר, אנו מסייעים לחבר את יכולות ה-AI כדי לשפר את הערך של מוצרי האבטחה שלנו".

"משחק החתול והעכבר בין הרעים לטובים לא הולך להיעלם – אין סוף למרוץ", סיכם פרוינד.