גורו סייבר: "סוכני AI יעשו דברים נפלאים – וגם נוראים"

"העולם כיום מתאפיין בתנודתיות מוגברת. משתמשים אנושיים בעלי כוחות-על, עם עוזרי בינה מלאכותית, יוכלו לעשות גם דברים נפלאים וגם דברים נוראים. מערכות AI מודרניות הן למעשה יועץ אוניברסלי שעוזר לאנשים לעשות דברים מזיקים. נצטרך לרתום גם את ה-AI להגנה", כך כתב גורו האבטחה העולמי ברוס שנייר.

שנייר פרסם בשבוע שעבר מאמר בנושא בגארדיאן הבריטי. הוא קריפטוגרף אמריקני, מומחה בינלאומי לאבטחת מידע, להגנת סייבר ולהגנת פרטיות, סופר שמאחוריו עשרות ספרים ומרצה באקדמיה. זה יותר מעשור הוא מתמקד בחקר הצומת שבין אבטחה, טכנולוגיה ואנשים, בדגש על כוח. שנייר הוא מהמתנגדים הקולניים לטכנולוגיות בלוקצ'יין ולמטבעות קריפטוגרפיים.

"בשבוע שעבר", כתב, "מועדון 'חמש עיניים', של סוכנויות ביטחון לאומיות במדינות דוברות אנגלית, פרסמו הצהרה המזהירה מפני הסיכונים הגוברים בסייבר של מודלים של AI, ובמיוחד ביכולתם לפרוץ באופן עצמאי למערכות ולרשתות. סיכוני האינטרנט אינם דבר חדש, ומתקפות סייבר, גדולות וקטנות – היו בעיה משמעותית עוד הרבה לפני מודלים של בינה מלאכותית יוצרת".

"מה שהשתנה במשך העשורים, בזמן ש-AI משתנה מהר יותר, הוא הפער בין מיומנות ליכולת. ברוב ההיסטוריה האנושית, שני המונחים היו זהים. ככל שהפער ביניהם מתרחב, בני אדם המועצמים עם כליAI  יכולים לעשות יותר… וגם יותר נזק מאי פעם. המודלים יכולים לפרוץ לרשתות באופן אוטונומי, לגנוב נתונים, לפרוס כופרות ולהרוס מערכות. אם יש פתרון, הוא יכלול AI להגנה".

שנייר הזכיר אירוע מלפני שלושה עשורים: "ב-1998, שבעה האקרים מקבוצת L0pht העידו בקונגרס ואמרו לחברי הוועדה – שהיו חסרי מושג בתחום, שהם יכולים להוריד את האינטרנט ב-30 דקות. זה היה נכון חלקית ויהיר בחלקו, אבל המחיש נקודה חשובה: פריצה למערכות, גניבת נתונים וגרימת נזק – כל אלה דרשו מיומנות". לדבריו, "כלי התקיפה השתכללו ונפוצו, והיקפם זינק דרמטית עם בינה מלאכותית. רוב מערכות ה-AI היום מסוגלות לבצע מתקפות סייבר באופן אוטומטי".

הבעיה, ציין שנייר, "טמונה באנשים עם יכולת – אך בלא מיומנות. הם לעיתים קרובות בודדים, אינם חלק מקהילה מקצועית, ולא כפופים לחוקים או לנורמות. זה נכון לא רק בסייבר. כל רופא יכול להסביר לך איך להרוג מישהו בצורה בלתי ניתנת לאיתור. רבים מהחוקרים יודעים ליצור נשק ביולוגי. כל מהנדס יאמר היכן ואיך להטמין חומרי נפץ כדי לפוצץ גשר. הסיבה לכך שרופאים רצחניים ומהנדסי טרור הם נדירים, היא שבמסגרת ההכשרה הארוכה שלהם הם מפנימים גם קוד אתי. אם לכל אדם אקראי יש גישה לייעוץ טוב להרעלה, זה מסכן את כולנו".

"מערכות AI מודרניות הן יועץ אוניברסלי שעוזר לאנשים לעשות דברים מזיקים", קבע שנייר, "והניסיונות של תאגידי הענק של AI לבנות מעקות הגנה ולמנוע מאנשים לשאול שאלות שיניבו תשובות מזיקות – לא יעבדו לטווח הארוך. אי אפשר ללמד רופאים איך לטפל בהרעלות בלי ללמד אותם גם איך להרעיל ולהיות מורעלים. הידע והניסיון של AI בהגנה קולקטיבית יהיו עצומים. למרבה הצער, אותו ידע עלול לשמש גם למתקפות".

"מה שחדש הוא כמה מהר הדברים משתנים", ציין, "סיכוני סייבר עלולים להפוך למיושנים תוך חודשים, לא שנים. עלינו לפעול מראש ולהיות מוכנים להסתגל ולהתמודד עם איומים מתפתחים. AI בכלל תשמש לחיזוק כל היבט של ההגנה, להפחתה של עלויות אירועי הסייבר והאפקטיביות שלהם".

שנייר סיכם: "אנחנו צריכים לעשות זאת עם כל סיכון שהבינה המלאכותית מגבירה, לא רק עם אבטחת סייבר".