"ה-GenAI יצרה האקר מסוג חדש: תוקף בלי ידע"

"הופעת הבינה המלאכותית היוצרת הורידה את רף הכניסה של הרעים לעולם פשעי הסייבר. בעזרת GenAI, תוקפים יכולים לערוך כיום מתקפות בסייבר בלי שיהיו להם כל ניסיון ומומחיות בתחום. היא יצרה זן חדש של האקרים – תוקפים בלי ידע", כך אמר אלכס שטיינברג, מנהל מוצרי ESET בישראל בקומסקיור.

שטיינברג דיבר בכנס השותפים השנתי של חברת ההפצה. האירוע, בהפקת אנשים ומחשבים, נערך היום (ה') באולם האירועים לאגו בראשון לציון בהשתתפות בכירים ממאות מלקוחות החברה ושותפיה העסקיים, ובהנחיית גיל שטרן, מנהל השיווק של קומסקיור.

לדברי שטיינברג, "הבינה המלאכותית שינתה את תעשיית האבטחה, במיוחד עם עלייתה של הבינה המלאכותית היוצרת. הטובים, המגנים, משתמשים יותר ויותר ב-AI לגילוי ותגובה לאיומים, אך מנגד, היא מציפה חששות לגבי פוטנציאל השימוש לרעה בה, לטובת יצירת נוזקות מתוחכמות והתקפות פישינג".

"למרות אתגרים אלה", אמר, "שילובה של הבינה המלאכותית בעולם האבטחה ממשיך להתפתח, ומעצב את האופן שבו איומים נתפסים ומנוהלים ברחבי העולם. אנשי מקצוע בתחום האבטחה צריכים להישאר מעודכנים בהתקדמות בעולם ה-AI ולמנף את יכולותיה לשיפור אבטחת הסייבר, תוך צמצום איומים מתעוררים, שמנצלים את הטכנולוגיה הזו למטרות זדוניות".

"אנחנו מייצגים מזה שנים רבות את ESET בישראל", הוסיף שטיינברג. "חברת אבטחת המידע הוותיקה מתמחה בפיתוח פתרונות הגנה מתקדמים עבור עסקים, ארגונים ומשתמשים פרטיים, עם מוצרי הגנה רב שכבתית, מערכות למניעת חדירה, הגנת מכשירים ניידים ויישומים ייעודיים לאבטחת תשלומים דיגיטליים. ה-AI של ESET הופכת כל ארגון למוכן יותר, גם בלי צוות סייבר ייעודי. המערכות שלה מציעות תגובה חכמה, עמידות לרגולציה והגנה כוללת, מותאמת אישית, לכל ארגון, לפי צרכיו ודרישותיו".

מה זה הרעלת מודלים?

דובר נוסף באירוע היה אלכס ויטוחונובסקי, מנהל מוצר סייפטיקה בקומסקיור. הוא אמר כי "ה-AI מביאה עימה סוגים שונים של סיכונים ומתקפות, דוגמת דליפת מידע, הנדסת תודעה, הטיות, אפליה והרעלת מודלים".

לדבריו, "תחום הרעלת המודלים – הכנסת פרומפטים זדוניים למודלים, על מנת להשפיע על התוצאות או לבצע הונאה – הולך ומתפתח בקצב מהיר מאוד. בתחום זה יש כמה שיטות הרעלה: הטעיית מודלים – יצירת דוגמאות שמטעות את מודל ה-AI לקבלת החלטות שגויות; גניבת מודלים – שחזור מודל בינה מלאכותית באמצעות שאילתות חוזרות והנדסה לאחור; הזרקת פרומפט – מניפולציה של מודלי שפה גדולים (LLMs) לעקיפת בקרות אבטחה; ופישינג מתקדם – יצירת הונאות אמינות במיוחד, המותאמות אישית באמצעות AI".

אלכס ויטוחונובסקי, מנהל מוצר סייפטיקה בקומסקיור. צילום: ניב קנטור

ויטוחונובסקי פנה למנהלים שישבו בקהל ואמר כי "עליכם לגבש אסטרטגיה ברורה של אבטחת מידע, המבוססת על כמה עקרונות: ללכת על בטוח – אם אתם מהססים להעניק פריווילגיות או גישה למשתמשים מסוימים, בחרו בגישה המחמירה יותר; מימוש גישת אפס אמון כמסגרת עבודה אבטחתית, שדורשת מכל המשתמשים אימות, אישור ובדיקה, כשהם ברשת החברה ומחוץ לה; וצמצום סיכונים – לעולם לא תצליחו להבטיח אבטחה מלאה, ולכן יש לאמץ גישה מבוססת סיכונים, שמגדירה סדר עדיפויות ומתמקדת בבעיות אבטחה קריטיות".

הוא הוסיף כי "גישה מרחוק מהווה סיכון לאבטחת הנתונים, כי היא מאפשרת גישה מוגברת למערכות פנימיות ולנתונים רגישים. פתרונות DLP (מניעת דליפת מידע – י"ה) יכולים לסייע בצמצום הסיכון. מנהלי ה-IT צריכים כלים לניטור גורמי סיכון ותקריות אבטחה, ועדיפים פתרונות שמאפשרים שליחת התראת אבטחה מיידית".

לסיום אמר ויטוחנובסקי כי "פתרון למניעת דליפת מידע, דוגמת זה של סייפטיקה, יכול לסייע לארגונים במשימה, עם הגנה על מידע רגיש ומסווג שלהם, לצד ביקורת ובקרה על סביבת העבודה, וכן ניתוח התנהגויות המשתמשים".