מיקרוסופט תפסה האקרים מסין, רוסיה ואיראן – באמצעות AI

רבות דובר על כך שכניסת הבינה המלאכותית היוצרת, GenAI, תעשה טוב להאקרים ולרעים לסוגיהם, כי היכולות החדשות תסייע להם להקים ולהפיץ מתקפות יותר מסובכות, יותר מהר. אבל יש לסיפור גם צד שני: מיקרוסופט (Microsoft) הודיעה אתמול (ד') כי היא תפסה האקרים מסין, רוסיה ואיראן באמצעות כלי הבינה המלאכותית שלה. מאידך, ההאקרים עשו גם הם שימוש בבינה מלאכותית, לטובת ייעול המתקפות, מחקר, ריגול ותעמולה.

בדו"ח שהוציאה הענקית מרדמונד נכתב כי האקרים שלוחי מדינות, הפועלים בגיבוי רוסיה, סין ואיראן השתמשו בכלים של OpenAI – הנתמכת על ידי מיקרוסופט – כדי לשפר את יכולות הפריצה שלהם ולהערים על הקורבנות. "עקבנו אחר קבוצות פריצה המזוהות עם GRU, המודיעין הצבאי הרוסי, עם משמרות המהפכה של איראן וגם האקרים שלוחי ממשלות סין וצפון קוריאה".

כלי חדש בארגזי הכלים של האקרים הפועלים בחסות מדינות. LLMs – מודלי שפה גדולים. צילום: Shutterstock

LLMs – כלי חדש בארגזי הכלים של קבוצות בחסות המדינה

בדו"ח נכתב עוד כי "ההאקרים ניסו לשכלל את מסעות הפריצה שלהם באמצעות מודלי שפה גדולים (Large Language Model – LLMs), המטפלים בכמויות אדירות של טקסט".

המודלים הללו, הידועים ביצירת תגובות דמויות אנוש, הפכו לכלי חדש בארגזי הכלים של קבוצות סייבר הפועלות בחסות המדינה. מומחים ציינו כי "הממצאים של מיקרוסופט מסמנים רגע משמעותי בשיח על AI ואבטחת סייבר, ומדגישים את אופי השימוש הכפול בטכנולוגיות אלה, להתקפה ולהגנה".

החברה הודיעה על הממצא כשהיא פרסמה איסור גורף על שימוש של קבוצות פריצה הפועלות בחסות מדינה – במוצרי הבינה המלאכותית שלה.

"בלא קשר האם יש הפרה כלשהי של החוק, או הפרה כלשהי של תנאי השירות, אנחנו פשוט לא רוצים שלשחקנים שזיהינו – שאנחנו עוקבים אחריהם ויודעים שהם שחקני איומים מסוגים שונים – תהיה יכולת לקבל גישה לטכנולוגיה הזו", אמר טום ברט, סגן נשיא לביטחון הצרכנים ואמון, מיקרוסופט.

רוסיה, צפון קוריאה ואיראן לא הגיבו לפרסום. דובר שגרירות ארה"ב של סין אמר כי "אנו נגד השמצות והאשמות חסרות בסיס המוטחות כלפי סין. המדינה דוגלת בפריסה בטוחה, אמינה וניתנת לשליטה – של טכנולוגיית AI כדי לשפר את הרווחה המשותפת של האנושות כולה".

אנליסטים לתחום האבטחה ציינו כי "כפי שהתרענו לא פעם בעבר, האקרים בגיבוי מדינות יעשו שימוש בכלי בינה מלאכותית כדי להגביר את יכולות הריגול שלהם. זה ממחיש את החששות מההתפשטות המהירה של הטכנולוגיה והפוטנציאל לשימוש בה לרעה". מומחי אבטחת מידע הוסיפו כי כבר ב-2023 שחקני איום מנצלים לרעה כלים כאלה, למרות מיעוט המקרים שדווחו.

האם הן משרתות גם את הרעים? OpenAI והשותפה שברקע, מיקרוסופט. צילום: Shutterstock

מיקרוסופט ו-OpenAI בסיוע פושעי הסייבר?

יצוין כי מיקרוסופט היא המשקיעה הגדולה ב-OpenAI, החברה שמאחורי ChatGPT.

"זהו אחד המקרים הראשונים בהם חברת בינה מלאכותית דנה באופן פומבי כיצד שחקני איום בסייבר משתמשים בטכנולוגיות בינה מלאכותית", אמר בוב רוטסטד, מוביל מודיעין איומי סייבר ב-OpenAI.

שתי החברות תיארו את השימוש של ההאקרים בכלי הבינה המלאכותית שלהם כ"שלב מוקדם", אולם גם "מודרג ומצטבר". ברט ציין כי "עדיין – מרגלי הסייבר לא נצפו מצליחים לעשות פריצות דרך בתחום. ראינו אותם פשוט משתמשים בטכנולוגיה הזו, כמו כל משתמש אחר".

בדו"ח שפורסם אתמול (ד') נכתב כי "קבוצות הפריצה משתמשות במודלים של LLM בצורה שונה משאר המשתמשים". כך, ההאקרים שפעלו בגיבוי ה-GRU, השתמשו במודלים כדי לחקור "טכנולוגיות שונות בעולמות הלוויינים והמכ"ם, אשר עלולות לסייע להם בפעולות צבאיות קונבנציונליות באוקראינה".

"האקרים צפון קוריאנים", נכתב, "השתמשו במודלים כדי ליצור תוכן שישמש אותם לטובת מימוש קמפיינים מסוג דיוג-חנית (spear-phishing)". האקרים איראנים עשו שימוש בתמונות של דוגמניות כדי לכתוב מיילים משכנעים יותר. כך, ה-AI סייע להם לנסח הודעות שמפתות "פמיניסטיות בולטות" לאתרי אינטרנט מזויפים. לפי מיקרוסופט, "האקרים סיניים מתנסים גם במודלים של LLM כדי לשאול שאלות על סוכנויות ביון יריבות, בעיות אבטחת סייבר ואנשים בולטים".

ברט ורוטסטד לא השיבו לשאלת כתבים טכנולוגיים מה היקף הפעילות ההתקפית בה נעשה שימוש ב-AI, או כמה חשבונות הושעו בעקבות החשיפה. ברט אמר כי "החדשנות של AI מסבה דאגה לגבי הפריסה שלה: הטכנולוגיה הזו היא גם חדשה וגם חזקה להפליא".

"הדווח הזה משמש כעוד קריאת השכמה, עוד סיפור שנועד להזהיר את תעשיית הטכנולוגיה, קובעי המדיניות ואת הקהילה הגלובלית – בדבר האתגרים של ניהול טכנולוגיות מתקדמות והפוטנציאל שטמון בהן לניצול שלהן לרעה בסייבר", סיכם אחד המומחים.