"כדי שסוכני הקופיילוט יפעלו בצורה מאובטחת, יש לעטוף אותם באופן מלא"

"איומי הסייבר תמיד גדלו והיו ליותר מתוחכמים. עידן הבינה המלאכותית מהווה נקודת מפנה: הוא מעניק לעובדים יכולות לפעול במהירות וביעילות. אלא שתועלות ה-AI מעניקות יתרון לתוקפים, שעשו קפיצת מדרגה כפולה ביכולות שלהם, עם הבינה המלאכותית היוצרת. המעבר לשימוש בקופיילוט ובכלי GenAI בכלל מעניק הזדמנויות תפעוליות, לצד אתגרי אבטחה חדשים. יש להגן על ארגונים בעידן החדש מבלי לפתוח את הרשת לסכנת מתקפות", כך אמר אמיר פלס, סגן נשיא בכיר לטכנולוגיה והנדסה ברדוור.

פלס דיבר בוובינר שערכה קבוצת הענן של נס לפני ימים אחדים, בהשתתפות מאות מנהלי תחום ענן ואבטחת מידע. את הוובינר, שנשא את הכותרת Copilot Safe Zone, פתח שחר נתיב, מנהל חטיבת מיקרוסופט בקבוצת הענן של נס. "אנחנו מהשותפים הוותיקים והבכירים של מיקרוסופט", אמר. "יש לנו מאות לקוחות מבוססי טכנולוגיות מיקרוסופט, ערכנו יותר מ-30 פרויקטי AI בסביבת מיקרוסופט בארגונים, והיד עוד נטויה".

שחר נתיב, מנהל חטיבת מיקרוסופט בקבוצת הענן של נס. צילום: יח"צ

לדברי פלס, "לנו, ברדוור, יש יכולת להגן על סביבת קופיילוט בצורה חכמה ומתמשכת – לטובת שקט ועבודה בטוחה".

הוא ציין כי "הבינה המלאכותית מעניקה המון כוח לרעים. לדוגמה, סוכן AI שמתכנת במטא השתמש בו, לא הבין או ניסה לרצות את מפעילו, והשיב במענה שהדליף מידע, בגלל סטייה של מודל". לדבריו, "התקדמות שחקני האיום עם ה-AI גרמה לג'רום פאוול, יו"ר הפדרל ריזרב, להביע דאגה עמוקה ממתקפות סייבר על המערכת הפיננסית, ולקבוע שהן האיום החמור ביותר על כלכלת ארצות הברית – יותר מהקריסה הפיננסית ב-2008".

"יישומי ה-AI מרחיבים את משטח התקיפה", הסביר פלס. "LLMs וסוכני AI מעמיקים את הסיכון עם חשיפה עמוקה יותר לנתונים רגישים. הרעים כבר לא זקוקים לכישורים טכניים, הם יכולים לבקש ליצור מתקפה בשפה חופשית".

לדבריו, "המתקפה הבסיסית ביותר היא הזרקת שאילתה. אני אומר למודל 'הראה לי מידע רגיש', והסוכן מבצע. זה היופי שבסוכנים, וזה גם הסיכון שיש בהם. האיום הוא כבר לא היכולת של הסוכן להגיע לנתוני המערכות השונות, אלא יותר מזה. יש את מה שנקרא 'הרעלת המודל', והיא עלולה ליצור נזק משמעותי למערכות. למשל, סוכן שימליץ על מתן תרופה שגויה למטופל, ושההנחיה שלו תגבר על המלצת הרופא. גם אם המודל לא נפתח למערכות פנימיות, עצם ההפעלה שלו למול האינטרנט הופכת אותו ללא מוגן".

"מהפכת סוכני ה-AI מגיעה עם 'מתנות' זדוניות"

"רדוור הייתה חולצה בזיהוי איומים מבוססי AI", קבע פלס. "בספטמבר האחרון זיהינו את ShadowLeak – פגיעות חדשה, שמתרחשת כש-ChatGPT מחובר לג'י מייל הארגוני, ומותר לו לגלוש באינטרנט. מיד אחרי חשפנו את ZombieAgent ואמרנו שמהפכת סוכני ה-AI מגיעה עם 'מתנות' זדוניות".

פלס הציג תרחיש דמיוני, "מתקפת אקו-ליק": מגייס בארגון ביקש מסוכן ה-AI לקרוא קורות חיים ולדרג את המועמד להשמה. אלא שהשאילתה שלחה את הסוכן לאתר זדוני. "זוהי מתקפה מסוג 'המודל המתומרן', והיא מהמסוכנות שבמתקפות ה-AI", התריע. פלס הדגים כיצד מתקפה על קופיילוט בגרסתו העסקית מאפשרת גישה למערכות מיקרוסופט "ומייעלת את העבודה – אבל מסכנת תוכן רב. הפתרון שלנו מזהה הנחיות הסמויות ומונע גישות אסורות: כדי שהסוכנים יפעלו באופן מאובטח, אנחנו מלווים אותם יד ביד".

"אין במודלים עצמם מספיק אבטחה מובנית" אמר, "ואנחנו מפעילים יכולות AI בכל סביבת העבודה של הסוכנים, כדי לעצור מתקפות שהארגונים לא יודעים עליהן, או שהם לא חשבו עליהן".

"פיתחנו את סוכן ה-AI שלנו כדי לסייע לאתגרי הבינה המלאכותית הסוכנית. הסוכן מבין את עבודת הסוכנים האחרים והפתרון מספק נראות על כלל הסביבה", ציין פלס. הוא הוסיף כי "הפתרון שלנו מטפל בכמה מקרים: מערכות AI בתחנות העבודה, שמצריכות הגנה על העובדים, כי הן נגישות למידע רגיש; הוספת הגנות בעת השימוש במודלים, למניעת ההרעלה שלהם; בקרה על מי שמפעיל את הסוכן ונותן הרשאות לשימוש בכלים; וזיהוי בעיות בזמן אמת, לשם עצירה מיידית שלהן".

"יחד עם נס אנחנו מציעים פתרון הגנה רב שכבתי, עם יכולות חיקור, נראות והבנה מה רץ, והפעלת הנחיות – מה אסור, מה רגיש, מי המשתמש ומה הוא מפעיל. אנחנו פועלים בעולם ההגנה ההתנהגותית, ויודעים לזהות האם הכוונה זדונית – ואז למנוע אותה", אמר.

לסיום ציין פלס כי "יחד עם מומחי הענן והאבטחה של נס, אנחנו מציעים לכל ארגון שמטמיע קופיילוט פתרון אחד מוכלל להגנת רשת, אפליקציות, APIs, בינה מלאכותית סוכנית ו-LLMs. קל מאוד להתקיף עם AI ועל כן, חשוב כפליים בעת הזאת להגן על הארגון".