צפון קוריאה מנצלת AI באופן רחב יותר כדי לתקוף יותר

קימסוקי, קבוצת האקרים צפון קוריאנית ידועה ודי ותיקה, משתמשת בבינה מלאכותית יוצרת כדי למכן את מתקפות הסייבר שלה וליצור פיתיונות פישינג – כך לפי מחקר שפרסמה היום (ב') חברת הסייבר הדרום קוריאנית ג'ניאנס (Genians).

החוקרים מטעם החברה כתבו כי "קבוצת קימסוקי הקימה כלים להרצה ולניהול מודלים של בינה מלאכותית מקומית, כולל Ollama ,GPT4All ו-Msty (שמות שמתכתבים עם אלה של מודלים לגיטימיים), לצד טכנולוגיית חיפוש מסמכים הידועה כ-RAG (ר"ת Retrival Augmented Generation)".

כך הקבוצה מתקרבת ליישום רחב יותר של AI

קבוצות פריצה הקשורות לפיונגיאנג כבר עשו בעבר שימוש ב-AI, בעיקר בשלבי ההכנה למתקפות, אולם אנשי ג'ניאנס מצאו פעילות עדכנית שמצביעה על כך שהן מתקרבות ליישם את הטכנולוגיה באופן רחב יותר בפעילותן.

חוקרי החברה זיהו עדויות לכך שקימסוקי בנתה והפעילה מודלי שפה גדולים (LLMs) מקומיים, שרצים ישירות על מחשבים אישיים, מחשבים ניידים או שרתים פרטיים מקומיים של המשתמשים עצמם – במקום דרך שירות ענן מרוחק. הם הסבירו כי המשמעות היא שההאקרים יכולים להשתמש ב-AI מבלי לחשוף את תוכניותיהם. החוקרים מצאו עקבות לפעילות קימסוקי ביומנים של יישומי LLM שמופעלים מקומית. "במערכת מקומית, השיחות אינן מועברות לשירותי בינה מלאכותית חיצוניים, מה שמפחית את הסיכון לחשיפה חיצונית", הסבירו. "זה הופך אותם לאופציה אטרקטיבית במיוחד עבור שחקני איומים בחסות המדינה".

שימוש בספייר פישינג

החברה גילתה בנוסף שקימסוקי ממשיכה לבצע מתקפות דיוג חנית (ספייר פישינג, מתקפות ממוקדות – י"ה), שנועדו לגנוב מידע אישי, תוך שימוש במסמכי פיתוי "מלוטשים", שנוצרו באמצעות בינה מלאכותית. קימסוקי עושה שימוש תכוף בפיתויים כאלה כדי ליצור קבצים שדומים למכתבים מקצועיים, או דו"חות אסטרטגיה. אלה נושאים נוזקות שפורצות למכשירי המשתמשים לאחר ההורדה. חלק מהחברות ש-"זכו" לקבל את אותן מתקפות נחשפו לדליפות נתוני לקוחות לאחר שהורדו קבצים שנראים דומים למסמכים שלהן.

ניתוח מעמיק יותר של פעילות קימסוקי עם בינה מלאכותית העלה כי במהלך פעולות הפריצות, חבריה השתמשו בתוכנת תרגום כדי לתרגם ביטויים צפון קוריאניים לאנגלית – לפני הזנתם לכלי ה-AI. החוקרים הסבירו שקיים שוני בין צפון קוריאה ודרום קוריאה באופן שבו מונחים שבהם השתמשו ההאקרים במשפט המקורי מאויתים ומבוטאים.

התפתחויות קודמות שנוגעות לקימסוקי

זוהי לא הפעם הראשונה שבה נמצא שחברי קימסוקי השתמשו בבינה מלאכותית: במאי האחרון מצאו חוקרי קספרסקי סימנים לכך שהם השתמשו ב-AI לפיתוח נוזקות שמכוונות למערכות ממשל דרום קוריאניות.

משרד האוצר האמריקני הטיל סנקציות על הקבוצה עוד ב-2023. וושינגטון טענה אז כי "חברי הקבוצה אספו מודיעין לתמיכה במטרות האסטרטגיות של פיונגיאנג".

חוקרי ג'ניאנס סיכמו את המחקר שלהם בציינם כי "קימסוקי חוקרת בינה מלאכותית כדי לשפר את מתקפות הפריצה שלה. עלינו להישאר ערניים מפני פיתוח שיטות תקיפה חדשות באמצעות AI".