השוק המחתרתי לכלי AI לפריצה הולך וגדל

למודלי שפה גדולים (LLMs) יש אתגר אבטחה בסיסי: החוזקות הגדולות ביותר שלהם ככלי הגנה הן בדיוק מה שמאפשרות את כוחם ההתקפי. המושג ידוע כ-"דילמת השימוש הכפול", ולקוח משדות כמו פיזיקה גרעינית או ביו-טכנולוגיה: כל כלי שהוא חזק מספיק כדי לבנות מערכת מורכבת' עלול גם לשמש מחדש כדי לשבור אחרת.

חוקר Unit 42 – מודיעין האיומים של פאלו אלטו (Palo Alto Networks) – הוציאו שלשום (ג') מחקר הנושא את הכותרת "דילמת השימוש הכפול ב-AI: מודלי שפה גדולים זדוניים".

We review digital risk through the capabilities of malicious LLMs, using WormGPT and KawaiiGPT as examples. This discussion of LLMs as a cybercrime-as-a-service product stresses the call for accountability from developers, regulators and researchers. https://t.co/zyzsPkZXGY pic.twitter.com/DbNb0bnpGb

— Unit 42 (@Unit42_Intel) November 26, 2025

"החברה הטובה ביותר של האקרים לבדיקות חדירה סייבר"

לפי המחקר, השוק המחתרתי לכלי פריצה בסייבר' שתמיד בעבע, הפך לשוק רותח: כלי ושירותי פריצה מבוססי AI ומותאמים אישית מוצעים ונמכרים בהיקף הולך וגדל.

השוק כולל מודלים של בינה מלאכותית המבטיחים להיות "החברה הטובה ביותר של האקרים לבדיקות חדירה סייבר", מנויים מבוססי שכבות, מערכי נתונים להכשרה ספציפית להאקרים, ועוד. "ככל שעסקים רוכשים כלי AI, יותר פושעי סייבר ניגשים לשוק המחתרתי ומציעים בו כלי פריצה מתוחכמים, מותאמים אישית, שנועדו לסייע במשימות פריצה, ובקלות. פורומי פריצה מפרסמים ומוכרים כלי פריצה משולבי AI, מותאמים אישית, לצד כלים ואתרים פרוצים וכלי פריצה מבוססי קוד פתוח", ציינו החוקרים.

"המחקר מציג מאמץ עיקש ומתמיד מצד פושעי הסייבר", נכתב, "לקבל כלים חדשים, נגישים, ניתנים להרחבה ויעילים מאוד לעשות בהם שימוש ואז גם למכור אותם".

"כל כלי שפותח על ידי אנשים טובים, עלול להיות מנוצל גם על ידי רעים"

"ההשפעה המשמעותית ביותר של מודלים זדוניים היא הדמוקרטיזציה של פשיעת סייבר", נכתב. "המודלים הללו הסירו ביסודיות חלק מהחסמים מבחינת המיומנות הטכנית הנדרשת לפעילות פשיעת סייבר. הם מעניקים את הכוח, שהיה שמור בעבר לשחקני איום מנוסים, לכמעט לכל מי שיש לו חיבור לאינטרנט והבנה בסיסית כיצד ליצור פקודות להשגת מטרותיו. ההיקף גובר על האיכות. ילדים עם סקריפט בינה מלאכותית יכולים להשיק קמפיינים בהיקפי ענק בצורה איכותית. גם מחזור החיים של ההתקפה מתקצר – מימים לדקות".

המודלים מספקים יכולות בסיסיות סביב משימות ששני הצדדים עושים בהן שימוש: סריקת פגיעויות ברשת, הצפנת נתונים, סינון נתונים או כתיבת קוד. 

"ככל שכלי הבינה המלאכותית השתפרו", אמר אנדי פיאצה, מנהל בכיר למודיעין איומים ביחידה 42, "האופי הכפול של השימוש שלהם באבטחת סייבר מתבהר יותר. כל כלי שפותח על ידי אנשים טובים, עלול להיות מנוצל גם על ידי אנשים רעים. ועכשיו אנחנו רואים את אותו הדבר עם בינה מלאכותית".

הוא ציין כי "בעוד ש-LLMs עשויים לייצר נוזקות מהר יותר, הרי שאת רובן ניתן לזהות בקלות. הסכנה האמיתית היא שהדו"ח מאשר את מה שאנשי מקצוע בסייבר הזהירו מפניו מזמן: הפוטנציאל של כלים מבוססי AI להפוך את הפריצה לקלה ולא מסובכת טכנית. ההאקרים לא צריכים להיות טובים אפילו בניסוח שאילתות. כשהם משתמשים בכלים האלה, כל שעליהם לעשות הוא פשוט לשאול 'איך אני מוצא מערכות אחרות ברשת?' ואז הם מקבלים מענה מקודד. מחסומי הכניסה הולכים ופוחתים".

KawaiiGPT: Free WormGPT variant

GitHub: https://t.co/iJb9B8Nc7U

Write-up: https://t.co/S6J5EWmuy5 pic.twitter.com/1bJuuAxxK2

— Dark Web Informer (@DarkWebInformer) November 26, 2025

"המציאות עגומה: AI מתוחכמת ובלתי מוגבלת כבר אינה מתחום התיאוריה"

לפי החוקרים, למודלים אלה יש כמה יתרונות. האחד – דיוק לשוני. "המודלים יכולים ליצור טקסט סביר דקדוקית, רלוונטי להקשר ומניפולטיבי פסיכולוגית וכך לקדם קמפיינים של הנדסה חברתית כמו פישינג, וישינג (פישינג קולי) ופריצת דואר אלקטרוני עסקי (BEC)". 

"יתרון נוסף", ציינו, "הוא ביכולת ליצור, לנפות ולשנות קוד במהירות, כולל סקריפטים זדוניים ונוזקות מותאמות אישית, מה שמאיץ מאוד את מחזור הפיתוח של הנוזקות והכלים".

"חל שינוי במודל האיום. התפשטות המודלים הזדוניים מדגישה את דילמת השימוש הכפול בהם. זה אינו עוד איום תיאורטי, אלא קו בסיס חדש לסיכון דיגיטלי. תוקפים משתמשים באופן פעיל במודלים זדוניים בנוף האיומים, בשל המסחור של מתקפות סייבר והדמוקרטיזציה של הכישורים. שלוש קבוצות עיקריות צריכות לפעול במשולב נגד המודלים הזדוניים: המפתחים, ממשלות ורגולטורים והחוקרים".

"עתיד אבטחת הסייבר וה-AI אינו בחסימת כלים ספציפיים, אלא בבניית מערכות עמידות לבינה מלאכותית זדונית, הנוצרת בהיקפים גדולים ומתפשטת במהירות", סיכמו חוקרי יחידה 42. "ההתפשטות המתמשכת של מודלים זדוניים מהווה אזהרה. זו מציאות עגומה: בינה מלאכותית מתוחכמת ובלתי מוגבלת כבר אינה משהו מתחום התיאוריה, או כלי שיש רק לשחקני איום מיומנים הפועלים בגיבוי מדינות. היא הפכה למוצר פשוט וזמין בקלות לפשיעת סייבר כשירות".