ה-AI משנה את האבטחה מהיסוד – והבורסות מיישרות קו

בסוף השבוע האחרון הסתיימו בלאס וגאס שני כנסים בעולמות האבטחה והסייבר: Black Hat וכנס ההאקרים DEF CON. אלה כנסים שונים מהרגיל: הן עקב מועד קיומם, באוגוסט, והן בגלל העובדה שלצד ספקיות האבטחה, המשווקות את מרכולתן (כמובן, בצירוף האותיות AI), משתתפים בהם רבים מהממשל הפדרלי והאקרים לסוגיהם. בכירים.ות מהממשל נואמים, ולצידם אנשים אחרים מהגופים הממשלתיים מחפשים בכנסים הללו האקרים כדי לגייס לשורותיו.

המסר המרכזי, שעבר כחוט השני בקרב כלל הדוברים בשני הכנסים, היה זהה: הבינה המלאכותית אינה 'עוד' תכונה, היא לא יכולת נוספת – אלא משהו מהותי, עמוק ובסיסי, שמשנה את ענף ההגנה מהיסוד, מהווה ממש מהפכה במודל ההפעלה של אבטחת הסייבר. רכיבי התוכנה משנים כיוון: מזיהוי איומים, מחקר והסבר של הסיכונים – להחלטה, פעולה ואכיפה מבוססות מדיניות. הגנת הסייבר בעידן החדש בונה את עצמה מחדש, ועושה זאת סביב מרכיבי היסוד המחברים בין הגנה ו-AI: קונטקסט, סוכנים ואכיפה בזמן אמת.

אבל, ויש אבל: הכוכבים החדשים – סוכני ה-AI, שמסייעים לצוותי ההגנה בארגונים, מקצרים את זמני האיתור של האיומים ואת זמני התגובה לאירועים, וכך מצמצמים את לוחות הזמנים של התיקון – הם גם אלה שמגדילים את משטחי התקיפה הקיימים. הם אף יוצרים משטחים חדשים: רכיבי אבטחה שלא היו בעבר; קלטי מידע על איומים שיש לטפל בהם; איומים ש-"רוכבים" על שרשראות האספקה; ונתיבי תקיפה חדשים.

האתגר שמעל האחרים

מעל כל אלה, הם יוצרים עוד אתגר: לא ניתן לסמוך עליהם, כי הם לא מעשה ידי אדם, אלא מכונה. כך, בעידן הבינה המלאכותית, מסכימים האנליסטים, האבטחה ברמת התוכנה מקבלת עוד חשיבות, אבטחת היישומים מתרחבת ועולה חשיבות האמון בין תוכנות שנוצרו על ידי בינה מלאכותית, בסיועה והמופעלות על ידה.

בהתאמה, הצורך בשליטה בשדה הפעילות החדש מתרחב: צוותי האבטחה בארגון צריכים לערוך בקרה על הפיתוח מבוסס ה-AI, הפעלת הסוכנים בסביבות ייצור בזמן אמת, בניית מיפוי והקשרים מבוססי ידע ארגוני, ולאכוף ממשל אבטחה. אחד האנליסטים ציין כי "צוותי המגינים חייבים לדעת לעומק לא רק מה התוכנה מכילה, אלא גם מה תוכנה אוטונומית עושה, עלולה ועשויה לעשות, להיכן היא יכולה לגשת, מה גבולות הגזרה של ההחלטות שלה, ומה מותר ומה אסור לה להחליט, לשנות ולבצע".

שליטה הדוקה, פיקוח צמוד

בכירים שדיברו בכנס Black Hat הזהירו שהבינה המלאכותית לא תחליף את ערמת האבטחה. האתגר מצוי בכך שכל שכבה בערמה חייבת כעת לשלוט באופן אוטונומית, אבל עם פיקוח צמוד והדוק של הצוותים האנושיים. רק כך ניתן יהיה להימנע מהתממשותם של האיומים החדשים, שחלקם נחשפו בכנס ועל האחרים נדון בו בהרחבה: סוכנים שקיבלו הרשאות גישה למקומות שלא נדרשו; סוכנים שסיגלו לעצמם מיומנויות זדוניות; כאלה שנתנו הוראות לא אמינות, שגרמו לדליפות מידע או לחשיפת נתונים רגישים; אייג'נטים שבנו דרכי מעקף למניעת התערבות אנושית; וסוכנים שבנו תיקוני אבטחה פגומים, וכך הותירו פגיעויות לא מוטלאות, או חמור מכך – הכניסו פגיעויות חדשות.

מה אומרים האנליסטים?

אחד המומחים אמר כי "הכנס השנה סימן מפנה: מעבר מהגנה שמסתייעת ב-AI להגנת סייבר מבוססת סוכני AI. לא מספר הסוכנים הוא שיקבע את איכות ההגנה, אלא הימצאותם של אלה שיידעו לשלב קונטקסט אמין, זהות תלויה במטרה, ביצוע מבוקר, אכיפה בזמן אמת גם בייצור ואימות עצמאי. הדגש יהיה על עוד ועוד אמון בעולמות הזהויות ובהקשרים, לטובת ביצועי הגנה מעמיקים, איכותיים ויעילים יותר".

האנליסטים של קנטור כתבו כי "המסר שחזר בקרב רוב ספקיות האבטחה והאנליסטים שהשתתפו בכנסים הוא שסוכני AI הפכו לחלק מרכזי בנוף האיומים: סביבות התקיפה היו למורכבות יותר, ומנגד, פריסת כלי אבטחה ייעודיים לבינה מלאכותית נמצאת עדיין בשלב מוקדם. המשמעות היא שארגונים נדרשים להגן לא רק מפני תוקפים אנושיים או נוזקות מסורתיות, אלא גם מפני מערכות אוטונומיות, שיכולות, ועלולות, לחפש חולשות, לנוע בין מערכות ולבצע פעולות במהירות גבוהה".

"ההשקעה באבטחת מידע היא במרכז סדר היום של ארגונים", הוסיפו. "כולם מחפשים אחרי תשובות ודרכים לאבטח מערכות ולהגן עליהן מפני סוכני AI סוררים. הפריצה להאגינג פייס מסמנת את תחילתו של עידן סייבר מסוכן, של בינה מלאכותית, והרבה חברות אפילו לא יודעות זאת". לדבריהם, "ה-AI כבר אינה עוד תכונת אבטחת סייבר, היא עמוד תווך מרכזי הן במשטח התקיפה והן בתשתיות של התוקפים ושל המגינים".

בשוק ההון קלטו את המסר. צילום: DBM31

גם הבורסה הבינה

אתמול (ב') היה יום המסחר הראשון לאחר הכנסים. מניות הסייבר זינקו בוול סטריט, ואנליסטים רבים ציינו כי העלייה של מניות אלה "קובעת שיאים חדשים". בחלוקה למניות החברות הבולטות בתחום: רובריק זינקה בכמעט 9%, פאלו אלטו גדלה ב-5.82%, קראודסטרייק קפצה ב-5.01%, נטסקופ וזיסקיילר עלו ב-5% כל אחת, וסיילפוינט וסנטינל וואן הציגו גידול של 4% כל אחת.

בניו יורק מונים שתי סיבות לעליות הללו: הכנסים וההערכה הגוברת בשוק כי סוכני AI משנים במהירות את אופי האיומים ואת הצורך בכלי הגנה חדשים.