"אפוקליפסת הפגיעויות": מתגבר החשש שה-AI תעזור להאקרים יותר מאשר למגנים

מומחי אבטחה חוששים שהבינה המלאכותית עלולה לא רק לשמש האקרים יותר ויותר לתקיפות, אלא אף להטות את הכף לטובתם. לדבריהם, ככל שהבינה המלאכותית מסוגלת יותר לזהות פגיעויות תוכנה, עולה החשש מפני תרחיש אסון אפשרי, שכבר "זכה" לשם Vulnpocalypse – אפוקליפסת הפגיעויות.

בכתבה ששודרה בסוף השבוע ב-NBC דווח שאנת'רופיק הודיעה שתסתיר מהציבור את המודל האחרון שלה, Mythos Preview, מחשש שיכולות גילוי פגיעויות מתקדם עלולות לגרום לנזק משמעותי כשיגיעו לידיים הלא נכונות. החברה משתפת את המודל עם קבוצה מוגבלת של ענקי טק ושותפים – כדי לחזק את ההגנות שלהם.

הממשל והמוסדות הפיננסיים המרכזיים בארה"ב מטקסים עצה

לפי לוגן גראהם, מוביל מחקר סייבר התקפי באנת'רופיק, "גם אם המודל המדובר לעולם לא ייחשף לציבור, הרי שהמתחרים שלנו, כולל אלה בסין, ישחררו דגמים עם יכולת פריצה דומה בחודשים ובשנים הקרובות. יש להיערך למצב חדש זה".

סקוט בסנט, שר האוצר האמריקני. צילום: Maxim Elramsisy, ShutterStock

הדאגה הגיעה לרמות הגבוהות ביותר בממשל טראמפ. בעקבות הודעת אנת'רופיק, סקוט בסנט, שר האוצר האמריקני, כינס בשבוע שעבר פגישה עם מוסדות פיננסיים מרכזיים במדינה "כדי לדון בהתפתחויות המהירות שמתרחשות בעולם הבינה המלאכותית".

"בקרוב – יתרון גדול מאי פעם להאקרים"

"יש לנו הרבה יותר פגיעויות ממה שרוב האנשים אוהבים להודות. לתקן את כולן היה קשה כבר בעבר, ועל אחת כמה וכמה עכשיו. כעת הן הרבה יותר קלות לניצול על ידי מגוון רחב בהרבה של יריבים פוטנציאליים", אמר קייסי אליס, מייסד באג קראוד, פלטפורמה לחוקרי סייבר שמחפשים פגיעויות, "הבינה המלאכותית יוצרת מצב שבו הכלים האלה זמינים להרבה יותר אנשים".

לפי מומחים, "לעיתים קרובות, האקרים פורצים למערכות על ידי גילוי דרכים לנצל פגמים בתוכנה. המאבק מסלים: הרעים מחפשים נתיבים והזדמנויות חדשות לתקוף, והמגנים מנסים לעדכן את הקוד שלהם כדי לחסום אותם. חלק מהמודלים של הבינה המלאכותית, הוכיחו שהם מיומנים מאוד בגילוי מהיר של פגיעויות אלו".

אליס אמר כי "בקרוב האקרים יוכלו להשתמש בבינה מלאכותית כדי להעניק להם יתרון גדול יותר מאי פעם. מגן צריך להיות ערוך כל הזמן, בעוד שהתוקף צריך להצליח לפרוץ רק פעם אחת".

קייטי מוסוריס, מנכ"לית ומייסדת שותפה של לוטה סקיוריטי, חברה שמחברת בין חוקרי פגיעויות למפתחי תוכנה, צופה "תרחישים הדומים בתפיסה לאלה שבהם ספקיות ענן גדולות חוו השבתות. בהחלט נתחיל לראות השבתות גדולות, שישפיעו בהמשך על תעשיות אחרות, כמו שתעשיית התעופה סבלה באירוע קראודסטרייק".