צ'ק פוינט: ה-AI עולה כיתה – ומפעילה מתקפות סייבר מתוחכמות

הבינה המלאכותית כבר לא משמשת רק ככלי עזר לתוקפים, אלא ממלאת תפקיד פעיל בבנייה, בהפעלה ובהפצה רחבה של מתקפות סייבר מתוחכמות; כך לפי דו"ח אבטחת ה-AI השנתי שצ'ק פוינט פרסמה היום (ד'). לפי חוקרי החברה, "מדובר בשינוי משמעותי בזירת הסייבר".

ענקית הגנת הסייבר הישראלית מציינת התפתחות מדאיגה: "הבינה המלאכותית הפכה מעוזרת אופרטיבית להאקרים למפעילת מתקפות סייבר". החוקרים הגיעו למסקנה זו לאחר שעקבו אחרי פעילויות של שחקני איום בסייבר, שבהן מערכות AI הפעילו תהליכי ניצול חולשות באופן אוטונומי, ביצעו אלפי פקודות לאורך עשרות תרחישים ונדרשו למעורבות אנושית מינימלית.

היקף האינטראקציות "בסיכון גבוה" עם כלי GenAI – הוכפל

אחד הנתונים המדאיגים במחקר הוא שבתוך שנה, היקף האינטראקציות המוגדרות "בסיכון גבוה" עם כלי בינה מלאכותית יוצרת – הוכפל: מ-1 מכל 50 אינטראקציות ל-1 מכל 25. בין 87% ל-93% מהארגונים חוו לפחות אינטראקציה אחת שמוגדרת כך. אחד ההסברים לכך הוא שארגון ממוצע משתמש כיום בלפחות 10 כלי AI מדי חודש, כאשר רבים מהם אינם מנוהלים או מאושרים באופן רשמי.

מתקפה שהביאה לחשיפת מידע בהיקף עצום

דוגמה בולטת שצ'ק פוינט מציינת היא מתקפה שבוצעה בתקופה שבין דצמבר אשתקד לפברואר השנה נגד תשעה גופי ממשל במקסיקו. במתקפה זו, אדם אחד הצליח לנהל פעילות התקפית בסייבר, רחבת היקף, ועשה זאת באמצעות שילוב של שני אמצעים פופולריים: כלי ה-GenAI קלאוד קוד של אנת'רופיק ומודל GPT-4.1 של OpenAI. קלאוד קוד שימש ככלי המבצעי שאפשר להאקרים להתקדם בתוך הרשתות שהם פרצו, לכתוב כלי ניצול, למפות מערכות וליצור נתיבי גישה. במקביל, GPT-4.1 שימש אותם לניתוח אוטומטי של המידע שגנבו ולזיהוי פרטים בעלי ערך.

לפי החוקרים, "במהלך 34 סשנים, ההאקר הזין יותר מ-1,000 הנחיות, שהובילו לביצוע של מעל 5,300 פקודות". המידע שנחשף היה בהיקף עצום: הוא כלל כ-195 מיליון רשומות של משלמי מיסים וכ-220 מיליון רשומות אזרחיות, כמו גם נתוני כלי רכב, תיקים רפואיים ומידע ממערכות הקשורות לבחירותֿ במדינה. מדובר בהיקף מידע חריג ביותר, גם כשמדובר במתקפות סייבר גדולות.

עלייה משמעותית בניסיונות לביצוע Prompt Injection

צ'ק פוינט מצאה גם עלייה משמעותית, של כמעט פי חמישה, בזיהוי ניסיונות של האקרים לתת הנחיות זדוניות (Prompt Injection), כאשר כל זה קרה בתקופה של כשלושה חודשים בלבד – בין מרץ למאי השנה. בחברה ציינו עם זאת כי "אין המדובר במתקפות שהן בהכרח בפנייה ישירה ל-AI, אלא בדרך כלל בהוראה שיכולה להיות מוסתרת במסך, אתר, מייל או תוכן אחר שהמערכת קוראת".

לוטם פינקלשטיין, סגן נשיא למחקר בצ'ק פוינט, אמר כי "לפני שנה בדיוק, בדו"ח הקודם שהוצאנו, תיארנו את ה-AI כמכפילת כוח עבור האקרים. כיום, בדו"ח הנוכחי, הממצאים הרבה יותר משמעותיים: הבינה המלאכותית כבר נכנסת אל תוך שרשרת התקיפה, והיא מסוגלת להפעיל מבצעים מתוחכמים, שבעבר דרשו צוות מיומן".

הוא הדגיש כי "חסם הידע שהפריד בין תוקפים מתוחכמים לתוקפים אחרים הולך ונעלם. הארגונים שיישארו בחזית יהיו אלה שישלטו באופן שבו נעשה שימוש ב-AI ויאבטחו את מערכות הבינה המלאכותית שהם מסתמכים עליהן".