מה מנהלי הטק צריכים לדעת על מודיעין איומים ותגובה בעידן ה-AI?

לפני ימים אחדים התקיים בבניין של צ'ק פוינט בתל אביב פאנל שעסק באחד הנושאים הכי בוערים באבטחת מידע וסייבר, בוודאי שבתקופה מרובת האיומים של ה-AI: מה המנכ"לים וסמנכ"לי אבטחת המידע צריכים לדעת בכל מה שקשור למודיעין איומים ותגובה בעידן הבינה המלאכותית?

הפאנל היה חלק מכנס AI Security Summit של Lynx מבית אנשים ומחשבים. המנחה שלו היה עידן ויינר, מנהל הטכנולוגיה והאסטרטגיה באסטליה, והשתתפו בו שני מנכ"לים – שמוליק הבר מאינטרנט בינת ומתן ימיני מסאן סקיוריטי, וכן כמה סמנכ"ליות וסמנכ"לי אבטחת מידע – עינת שמעוני מלושה, טל תהר מפאגאיה, דרור חבלין ממכבי שירותי בריאות ואירה איילון מאסם-נסטלה.

האתגרים שסוכני ה-AI יוצרים ל-CISOים

הנושא הראשון שעלה על הפרק היה סוכני ה-AI והשפעתם על אבטחת המידע בארגונים. שמעוני הדגישה את האתגר האבטחתי שהם יוצרים, "לצד העובדה שהארגון נהנה מהסוכנים שהעובדים בונים ומתוצריהם".

עינת שמעוני, סמנכ"לית אבטחת מידע בלושה. צילום: ניב קנטור

איילון ציינה ש-"סוכני ה-AI עושים את תפקיד סמנכ"ל אבטחת המידע למאתגר, אבל גם כייפי. ה-CISO הקלאסי מצוין בניהול תהליכים ואירוע. פה יש שינוי: הוא צריך לנהל מערכות אוטונומיות, בסוכנים אוטונומיים, שמקבלים החלטות על דעת עצמם. האתגר השני הניצב לפתחו של סמנכ"ל אבטחת המידע בעידן החדש הוא התרחבות משטח התקיפה, עם סוכני AI שהעובדים בונים ומערכות שהם מטמיעים. זה שינוי עצום ועל ה-CISO להבין איך הוא בנוי וכיצד הוא מוודא שההחלטות שהוא מקבל מביאות את התוצאה הרצויה. אתגר נוסף הוא הצורך לאפשר את מימוש האסטרטגיה של הארגון בעידן ה-AI בצורה מאובטחת".

אירה איילון, סמנכ"לית אבטחת מידע באסם-נסטלה. צילום: ניב קנטור

"אני רואה בבינה המלאכותית יתרון עצום למנהלי אבטחת המידע. אלה כלים מתקדמים, שמביאים חדשנות, צמצום במשאבים ותוצאות מדהימות", הוסיפה.

הבר אמר כי "יש פער גדול בין מה שההנהלה חושבת שקורה בארגון למה שקורה בו בפועל. הרבה ארגונים לא מודעים לצל ה-AI. הם לא יודעים איזה מידע יוצא החוצה, כי לא בהכרח יש בארגון את כלי האבטחה שמאפשרים לדעת את זה".

"יש בארגונים שמטמיעים סוכני AI שינויי טראפיק", הוסיף. "האתגר הוא לנהל את אותם סוכנים ואת הרשאות הגישה שניתנו להם מבחינה אבטחתית, ולהבין מה עושים כשהסוכנים מוציאים את המידע מהארגון החוצה".

שמוליק הבר, מנכ"ל אינטרנט בינת. צילום: ניב קנטור

"באבטחה, כל עוד אנחנו לא רואים את מה שקורה ברשת ובארגון – אנחנו לא מודעים לסכנות. צריך להדק את הבקרה ולהיות בטוחים שהסוכן עושה את מה שאנחנו רוצים שהוא יעשה", ציין הבר.

"החשש: איך לא לשים מקלות בגלגלים"

לדברי הבלין, "החשש שלי, כ-CISO, הוא איך אני לא שם מקלות בגלגלים של הארגון. סמנכ"ל אבטחת המידע לא צריך להגיד לגבי כל אתגר שזה מסוכן ולעצור את פעילות הארגון, אלא להביא את הפתרונות הנכונים לאתגרים. להנגיש את היכולות המדהימות של הבינה המלאכותית לשאר העובדים, ובמקרה שלי תוך מיקוד על הרופאים ועל הצוות הרפואי, על מנת לקצר זמני טיפול. מהצד השני, במקרה של ארגון בריאות כמו מכבי, יש את הגנת הפרטיות והרגולציה של משרד הבריאות, והאתגרים שהם מביאים עימם".

דרור הבלין, סמנכ"ל אבטחת מידע במכבי שירותי בריאות. צילום: ניב קנטור

אתגר נוסף שהוא מנה הוא השינוי התפיסתי שהבינה המלאכותית בהכרח מביאה איתה כשזה נוגע לאבטחת הארגון: "צריך להעביר את העובדים והמנהלים מדרך החשיבה שלהם. הם התרגלו לאבטחת מידע מסוימת, בעוד שבעידן הבינה המלאכותית, היא מצריכה גישה אחרת".

תהר אמר ש-"יצרנו בפאגאיה תהליך מאוד ברור איך פיתוח סוכני ה-AI והעבודה של העובדים והמנהלים איתם צריכה להיעשות. הסוכנים עוברים אישור של הארכיטקטים אצלנו, על מנת לוודא שאין התנגשויות ופערים, ויכולות חופפות. אנשי האבטחה נותנים כללים מאוד ברורים מה לעשות ומה לא לעשות כדי לשמור עליה. הכרה של העובדים והמנהלים את התהליך עוזרת להם לשמור על האבטחה".

טל תהר, סמנכ"ל אבטחת מידע בפאגאיה. צילום: ניב קנטור

ימיני ציין כי "ארגונים עדיין לא מבינים את אתגרי האבטחה שסוכני הבינה המלאכותית מביאים איתם. הם מייצרים סיכונים שלא היו קיימים עד כה, שה-CISO לא ציפה להם. בנוסף, הם מצריכים שינוי בחשיבה של האבטחה – מאיך מונעים מהמידע להגיע למודל ה-AI לאילו פעולות הסוכן הולך לעשות ואילו השלכות עלולות להיות להן. זה מצריך שינוי חשיבתי, שינוי של הפרדיגמה".

אתגר נוסף הוא הדיפ-פייק. איילון ציינה ש-"כבר יש מתקפות על מנכ"לים וסמנכ"לים באמצעות דיפ-פייק. זה עוד אתגר גדול שמנהלי האבטחה צריכים לעמוד בו".

מתן ימיני, מנכ"ל סאן סקיוריטי. צילום: ניב קנטור

מה מנכ"ל שמטמיע AI בארגון צריך לעשות?

הבר אמר בתשובה לשאלה זו כי "ה-CISO חייב להרים את הדגל ולהצביע על האיומים שהבינה המלאכותית מביאה איתה, אבל גם על התועלות. על המנכ"ל ללכת עקב בצד אגודל בצורה מתודית, לראות מהו האיום והאם הגבולות שהוגדרו מביאים למיגור שלו, לכך שאין סכנה לארגון. בכל אחד מהשימושים יש גבולות אחרים שמגדירים, והמנכ"ל צריך לוודא שהם אמנם מגינים על הארגון. מנכ"ל שעושה את זה יכול להיות רגוע".