"תשתיות ה-AI נמצאות תחת מתקפה – זה הזמן לחשוב מחדש על אבטחתן"

האצת השימוש בטכנולוגיות בינה מלאכותית בארגונים מתרחשת לעתים תוך הזנחת מערכות ליבה ושכבות קריטיות של אבטחה – מה שמוביל לעלייה חדה במספר החולשות והמתקפות על מערכות מבוססות AI; כך לפי מחקר חדש של טרנד מיקרו.

המחקר, דו"ח מצב אבטחת ה-AI למחצית הראשונה של 2025, מעלה כי בתקופה האמורה זוהו עשרות פרצות יום אפס במערכות בינה מלאכותית, לרבות בסיסי נתונים, קונטיינרים, סוכני LLM (מודל שפה גדולה) ומנועי הסקה. החוקרים ציינו כי "רכיבי ליבה לא מעודכנים, גם כאלה שנחשבים יציבים, עלולים לאפשר השתלטות מרחוק, הדלפת נתונים והשפעה על התנהגות המודלים".

לפי סקר שערכה החברה, 93% ממנהלי האבטחה הבכירים בארגונים מעריכים שהם יידרשו להתמודד עם התקפות מבוססות AI על בסיס יומי עוד ב-2025. "נתון זה ממחיש את עומק האיום הנשקף לארגונים כיום", ציינו החוקרים. הם מצטטים את דו"ח הסייבר של הפורום הכלכלי העולמי, שממנו עולה כי 66% מהארגונים צופים של-AI תהיה ההשפעה המשמעותית ביותר על התחום השנה.

כבר במאי השנה, נכתב, "נמצאו יותר מ-200 שרתי ChromaDB פתוחים לחלוטין לאינטרנט, בלא כל אימות או הגנה בסיסית – מה שאפשר קריאה, כתיבה ומחיקה של נתונים מצד כל גורם זדוני. ממצאים דומים נצפו גם ב-Redis v8, שם נוצלה חולשה מסוג Use-After-Free ברכיב Lua, וב-Nvidia Triton, שבה שרשרת של ארבע חולשות אפשרה הטענת נתונים מסוכנים לשרת Inference תפעולי".

לדברי החוקרים, "אחת המגמות המטרידות ביותר שעליהן מצביע הדו"ח היא העלייה במתקפות על מערכות מבוססות סוכני בינה מלאכותית (Agentic AI) – סוכנים מתקדמים שמסוגלים לבצע Reasoning (הנמקה) עצמאי, לגשת למקורות מידע ולבצע פעולות בשטח".

"ה-AI – כלי בסיסי בידי תוקפים"

"הבינה המלאכותית הפכה גם לכלי בסיסי בידי תוקפים, שמאפשר להם להעצים את הפעילויות הנוכחיות שלהם ולחקור עולמות חדשים, תרתי משמע", כתבו אנשי טרנד מיקרו. "פושעי סייבר מסוגלים כיום, בעזרת בינה מלאכותית, ליצור פיתיונות אמינים יותר ולהרחיב את פעילותם לקורבנות באזורים שלא היו נגישים בעבר. על ידי שילוב השימוש ב-GenAI עם נתונים ביומטריים חשופים ומידע שדלף מטקטיקות כופר, הם יכולים גם ליצור זהויות דיגיטליות לצרכי הונאות מטבעות קריפטוגרפיים או פעילויות כופר וסחיטה".

"לאף טכנולוגיית בינה מלאכותית אחרת לא היה רדיוס פיצוץ גדול יותר מאשר דיפ פייק, כאשר 36% מהמשתמשים שלנו דיווחו שנחשפו לתוכן שכזה במסגרת ניסיונות הונאה מקוונת", צוין במחקר. "פלטפורמות אלה זמינות בחלקן בחינם, ומספקות לתוקפים יכולות שעד באחרונה נחשבו לאמצעים של מדינות בלבד. בידיים הלא נכונות, הן עלולות לשמש כנשק בהונאות צרכניות רחבות, כמו גם במתקפות ממוקדות מאוד על ארגונים".

לפי המחקר, "גורמי איום נוטים כיום יותר ויותר לנטוש שירותי דארקנט מותאמים אישית לטובת פלטפורמות דיפ פייק מסחריות פופולריות – ובצדק. פלטפורמות אלה מציעות לפושעי סייבר חסרי רקע טכני מתקדם שורה של כלים נגישים, מדריכים מפורטים ויכולות מתקדמות, כמו שיבוש סטרימינג בזמן אמת, שכפול קולות במספר שפות והפשטת תמונות, לעתים בעלות נמוכה ואף בלא תשלום כלל".

לסיכום ציינו חוקרי טרנד מיקרו ש-"הבינה המלאכותית עשויה לייצג את ההזדמנות של המאה עבור ארגונים גלובליים, אך מי שממהר מדי להיכנס לתחום, בלא לנקוט באמצעי אבטחה מספקים, עלול, בסופו של דבר, לגרום ליותר נזק מתועלת. תשתיות רבות מדי בתחום נבנות כיום מרכיבים שאינם מאובטחים או שאינם מוטלאים – מה שפותח דלת בפני תוקפים. אנחנו קוראים לתעשייה לחשב מסלול מחדש. העידן שבו ה-AI נחשבה לכלי בטוח – חלף. הבינה המלאכותית הפכה לכלי עוצמתי, שמאיץ את יכולות ההתקפה של גורמים זדוניים".