שד הבינה המלאכותית יצא משליטה – איך מתגוננים מפני תקיפה?

לפני ימים אחדים, קבוצה של 116 חברות, ביניהן גוגל, מיקרוסופט, אנת'רופיק ו-OpenAI, חתמו על מכתב פתוח שקורא למדינות וארגונים לעבות את המגננות שלהם בפני האיום של בינות מלאכותיות תוקפניות. במכתב הן מזהירות שתקיפות של AI הפכו מתוחכמות יותר תוך חודשים, ולטענתן, ההגנות הקיימות לא מספקות בפני האיום החדש.

למה הדבר דומה? למגדלי נחשים, שעכשיו יוצאים באזהרה שנחשים הם ארסיים וצריך להיזהר מפניהם. בין החתומים על המכתב נמצאים גם גופים שעיקר עיסוקם הוא בהגנה על נתונים כמו בנק קפיטול וואן, חברות טכנולוגיית תשלומים כמו מאסטרקארד ו-ויזה, ועוד שחקניות טכנולוגיה גדולות דוגמת אדובי, אורקל ויבמ – כך שלא רק מגדלי הנחשים מזהירים שהנחשים שהם גידלו מאוד מסוכנים…

תקציר הפרקים הקודמים, למי שלא זוכר: בינות מלאכותיות מבית היוצר של OpenAI, אנת'רופיק ומטא פרצו לחברות וארגונים, תוך שהן עושות דברים מטרידים למדי וביעילות גדולה מדי – הן התחזו לאנשים לצורכי הנדסה חברתית והפעילו משאבים שלא היו מביישים צוות תקיפה אנושי מנוסה. בנוסף, אציין שהשימוש של האקרים אנושיים בסוכנים וירטואליים משדרג את יכולות התקיפה של האקרים מקצועיים – כמו שהוא משדרג מקצועות אחרים. כך, אנת'רופיק חשפה שצוות תקיפה מדינתי סיני הפעיל את קלוד קוד נגד 30 ארגונים בתחומי הטכנולוגיה, הכימיה, הפיננסים והממשל, תוך שהסוכנים מבצעים 90%-80% מקמפיין התקיפה, והחלטות אנושיות נדרשו רק ב-4-6 נקודות עיקריות במהלך המבצע. ההאקר הממוצע הופך למנצח על צוות תקיפה וירטואלי עם יכולות שמוגבלות רק במשאבים, כך שהאיום בהחלט אמיתי.

אז מה עושים עכשיו?

מומחים מסבירים שארגונים צריכים לעבור מזיהוי ומניעה להתמקדות בהתאוששות מתקיפה. כלומר, המשקל עובר מהשאלה האם נצליח לזהות או למנוע את התקיפה, כי ככל הנראה לא נצליח – להאם נצליח להתאושש ממנה ולמזער או לתווך את הנזקים. הדגשים העיקריים הם על איכות הגיבויים ויכולות התאוששות ויצירה של מתגי כיבוי – היכולת לכבות או לנתק סוכני AI תוך ארגוניים, שהפכו תוקפניים (אם על ידי חדירה או מניפולציה של שאילתות) במהירות.

באופן אירוני, דווקא תחום הגיבוי ושרידות הנתונים, האפור והמשעמם לכאורה, הופך להיות משמעותי בעידן שבו בינות מלאכותיות תוקפות. זאת, עקב הקריטיות שלהם בארגונים בכלל, ובארגוני תשתיות קריטיות בפרט

אלי ביטון, המנהל הטכני האזורי של חברת שרידות הנתונים וים (Veeam), מסביר בשיחה עם אנשים ומחשבים כי "ארגונים חייבים להעביר את הפוקוס מזיהוי ומניעה בלבד להתאוששות מהירה. ראשית, עליהם ליישם את כלל האצבע של שלושה עותקי נתונים, על שני סוגי מדיה – עותק אחד מחוץ לאתר ועותק אחד 'קפוא', שאי אפשר לשנות או למחוק. בנוסף, חובה להגיע לאפס שגיאות בבדיקת שחזור אוטומטית, שכן גיבוי שלא נבדק הוא בגדר השערה בלבד".

"מכיוון שמערך הגיבוי הוא היעד הראשון של כל תוקף, יש לנתק אותו לחלוטין ממערכת ניהול המשתמשים הארגונית. יש להפריד בין תוכנת הגיבוי לאחסון ולהגדיר עבורה חשבונות ניהול, הרשאות מצומצמות ואימות דו שלבי משלה, לצד הצפנת הנתונים. ולפני שמחזירים מערכת לאוויר, חובה לסרוק את עותקי הגיבוי לאיתור נוזקות ולהריץ את השחזור בסביבה מבודדת. אם נחזיר מערכת ללא בדיקה זו מנקודת הזמן האחרונה שידועה כתקינה, אנחנו עלולים להחזיר את התוקף פנימה", מציין המנהל הטכני.

אלי ביטון, מנהל טכני אזורי ב-וים. צילום: יוליה טינקלמן

הוא מוסיף שצריך ליצור "מתגי ניתוק מהירים" לבינות מלאכותיות שעלולות לסטות מדרך הישר. "יש למפות את כלי ה-AI שפועלים בארגון, לצמצם את הרשאותיהם ולוודא שקיים עבורם הליך ניתוק מהמערכת הראשית", מסביר ביטון.

באופן אירוני, דווקא תחום הגיבוי ושרידות הנתונים, האפור והמשעמם לכאורה, הופך להיות משמעותי בעידן שבו בינות מלאכותיות תוקפות. זאת, עקב הקריטיות שלהם בארגונים בכלל, ובארגוני תשתיות קריטיות בפרט. ביטון מזהיר שבינות מלאכותיות עלולות לכוון את האש שלהן לעבר תשתיות קריטיות, כמו מתקני מים, בתי חולים ותשתיות נעלמות אחרות.

זה מחזיר אותנו למכתב של החברות, שבו הן קוראות למדינות לספק "בינה מלאכותית הגנתית בעלת יכולות ובדיקות לבתי חולים ותשתיות מים", ולחברות הטכנולוגיה "לסייע במאמצים האלה". גלגול האחריות שלהן עולה מבין שורות המכתב: אנחנו יצרנו את המפלצות, אבל עכשיו זה התפקיד שלכן, המדינות (ובהכרח תקציבים ציבוריים), להתמודד איתן.