"ה-AI עושה חיים קלים לתוקפים"

"לבינה המלאכותית יש הרבה יכולות והיא מסייעת בשדות פעילות רבים בעולם הגנת הסייבר – מבניית אסטרטגיה ואכיפה של המדיניות, ועד זיהוי איומים. מנגד ובמקביל, היא גם מעצימה את שחקני האיום השונים, מסירה עבורם חסמי כניסה ומעניקה להם יותר יכולות תקיפה", כך אמרה רייצ'ל ג'ין, סמנכ"לית פלטפורמות ארגוניות בטרנד מיקרו (Trend Micro).

בראיון לאנשים ומחשבים אמרה ג'ין כי "האתגר הוא העצמה של המגנים למול היכולות החדשות של התוקפים. זה בא לידי ביטוי בכמה מקרים: יכולת לעוד משאבי הגנה, כי חלק מהתהליכים כבר עברו מיכון, ומנגד, התמודדות נרחבת יותר למול האיומים החדשים, למשל אלה המגיעים מהתקשורת מול מודלים של AI ושאילת שאלות. באבטחת סייבר, AI מהווה מאיץ: של זיהוי האיומים, אוטומציה של כל המשימות החזרתיות, וכן – בהיבט תיעדוף הסיכונים".

"כבר שנים", אמרה ג'ין, "אנו מפתחים כלים לחיזוי איומים, זה לא חדש. החיזוי עם AI מאפשר להיות פרואקטיבי ומדויק יותר. אבל הבינה המלאכותית היוצרת (GenAI) עוזרת למגנים להיות יותר מדויקים, עם טיפול מהיר בנתוני הטלמטריה, והכרת הסיכונים לעומק".

"אני רואה לנגד עיני, תמיד", אמרה, "את ההאקרים, הם אלה שמעניינים אותי בעיקר – ולא מה עושות ספקיות האבטחה האחרות. עלינו לנצח את הרעים, תמיד". לדבריה, "חל טשטוש בין האקרים שהמניע שלהם הוא כספי – למול אלה הפועלים בגיבוי וחסות המדינה. לצד אלה, אל לשכוח את האיום הפנימי. הוא לא חדש, אבל המשתמשים עלולים להיות מושפעים מדיפ פייק ולעתים קשה לזהות אותם. לכן, יש לשלב בין ההגנה מפני האיומים החיצוניים, לאלה הפנימיים".

משמשת גם להגנה, אך גם לתקיפות הסייבר שמבצעים ההאקרים. AI. צילום: Shutterstock

"יותר פרואקטיביים ובעלי יכולת חיזוי – בעזרת AI"

היבט נוסף שנדרש להתייחס אליו, ציינה, "הוא 'צל הבינה', על משקל 'צל IT'. יש פה נקודות עיוורון חדשות ונדרש לספק למגנים נראות חוצת ארגון".

"בינה מלאכותית יכולה להיות גם שריון מגן וגם חרב", הסבירה ג'ין, "זה האתגר היום. למעשה, אם תביט במודיעין האיומים העולמי שלנו, תראה את זה קורה בשטח. יש לנו הרבה טכנולוגיה המופעלת על ידי בינה מלאכותית: אנחנו משתמשים בה להעצים את מנוע הזיהוי שלנו, כדי לחזות מה יהיה נתיב המתקפה הפוטנציאלי, ואיך להפחית את הסיכון לפני שמתרחשת התקפה. אנחנו גורמים לעצמנו להיות יותר פרואקטיביים ובעלי יכולת חיזוי – בעזרת AI".

"מחקר שערכנו באחרונה", ציינה, "העלה כי השימוש ב-AI מעלה את סיכוני הסייבר: סיכון לחשיפת מידע רגיש, חוסר וודאות בנוגע לאופן עיבוד ואחסון הנתונים על ידי מערכות AI, אפשרות שמידע קנייני ינוצל לרעה בידי מודלים לא מהימנים, כמו גם אתגרי עמידה ברגולציה וניטור הנובעים מריבוי נקודות קצה חדשות, ממשקי API וצל מחשוב (Shadow IT)".

"גם התוקפים ממהרים לנצל את היכולות"

לדבריה, "המתח בין ההזדמנויות לסיכונים בא לידי ביטוי גם באירוע Pwn2Own שטרנד מיקרו ערכה באחרונה בברלין: 12 צוותים התמודדו מול ארבע פלטפורמות AI מרכזיות, כאשר שרת NVIDIA Triton Inference היה המטרה המרכזית. גם Chroma, רדיס (Redis) ו-NVIDIA Container Toolkit נפרצו בהצלחה, בחלק מהמקרים באמצעות באג יחיד בלבד, שהוביל להשתלטות מלאה. בסך הכול גילו הצוותים שבע חולשות יום אפס ייחודיות בפלטפורמות ה-AI".

"לכן", אמרה ג'ין, "הבינה המלאכותית טומנת בחובה פוטנציאל עצום לחיזוק מערכות הגנות הסייבר – החל מזיהוי חריגות בזמן אמת ועד לאוטומציה של משימות שדורשות זמן ומשאבים. אבל, חשוב להבין שגם התוקפים ממהרים לנצל את היכולות הללו למטרותיהם, מה שיוצר נוף איומים משתנה ודינמי".

"המחקר שלנו, יחד עם בדיקות שטח בעולם האמיתי", סיפרה, "מדגישים את הצורך הקריטי לשלב אבטחה כבר בשלבים הראשונים של פיתוח והטמעת מערכות AI. ככל שהבינה המלאכותית משתלבת עמוק יותר בסביבות IT ארגוניות, מובילי אבטחה בארגונים צריכים לקחת אחריות יזומה ולבצע הערכה שיטתית של נוף האיומים המשתנה, תוך שילוב פרקטיקות אבטחה קפדניות בכל שלב של אימוץ מערכות AI. זה לא תחום שניתן להשאיר לטיפול בדיעבד – הסיכון גבוה מדי".

"כיום, השימוש בכלי בינה מלאכותית אינו אפשרות, כמו לפני שנתיים, אלא הכרח", סיכמה ג'ין. "נהון להיום כל חברה נדרשת לאמץ יכולות אלו לטובת העמקה של מערך ההגנה בסייבר. מי שלא יעשה זאת, הרעים ינצחו אותו. זו הסיבה שאנחנו צריכים להתקדם בעצמנו, להמשיך להתעדכן בכל הידע וההתנהגויות העדכניות ביותר על איומים. בסופו של יום, אני מאמינה שתמיד הטובים ינצחו".