חוקרים ישראלים מצאו חולשות בקופיילוט של גיטהאב
לפי אייפקס סקיוריטי, ניצול החולשות עלול לגרום לעוזר ה-AI של גיטהאב לבצע משימות זדוניות ובכך לייצר סיכון משמעותי לטענות על שימוש לרעה בקופיילוט וקנסות פוטנציאליים יקרים בשל הפרות רגולציה

חוקרי אייפקס סקיוריטי (Apex Security) הישראלית מצאו שתי נקודות תורפה חדשות בגיטאהב קופיילוט (GitHub Copilot) מבית מיקרוסופט. לדבריהם, ניצול לרעה של החולשות "מותיר ארגונים בסיכון אבטחה מוגבר – ברקע העלייה באימוץ סוכני AI. הפגיעויות מותירות ארגונים פתוחים לסיכוני אבטחה, לסיכונים בהלימה לרגולציות ולסיכונים פיננסיים".
החולשות, אותן החוקרים הגדירו כ"משמעותיות", הן Affirmation Jailbreak ו-Proxy Hijacking. שתי הפגיעויות סומנו אך לא תוקנו על ידי גיטהאב.
הפגיעות האחת, Affirmation Jailbreak, מאפשרת מניפולציה על ההצעות של העוזר האישי של גיטהאב, כולל הטמעת שיחות מזויפות בתוך הקוד, כך שהקופיילוט יעקוף את מנגנוני הבקרה שלו וינפיק קוד בעייתי, ואף יבצע פעולות אסורות ומסוכנות.
"באמצעות שיחות מזויפות של העוזר, המוטמעות בקוד, התוקפים יכולים לעקוף את ההגבלות המובנות בו, וכך העוזר יכול לספק קטעי קוד זדוניים ומסוכנים, ולהציע הצעות והדרכה לגבי פעילויות לא חוקיות", כתבו החוקרים.

חוקרים ישראלים מצאו בו חולשות. גיטאהב קופיילוט של מיקרוסופט. צילום: Shutterstock
לדברי תומר אבני, מייסד שותף וסמנכ"ל מוצר של אייפקס, "לחולשה זו עלולות להיות השלכות חמורות על ארגונים מנקודת מבט רגולטורית וציות. אם עובדים המשתמשים ב-AI יביאו למצב בו הקופיילוט יגרום נזק, הדבר יביא לסיכון בשל הפרות ציות – בארה"ב ובאיחוד האירופי, ולארגון זה יעלה הרבה, הן כלכלית והן בשל הפגיעה במוניטין".
החולשה השניה, חטיפת פרוקסי, "מאפשרת מניפולציה של הגדרות הפרוקסי של Github Copilot, ומאפשרת למשתמשים לעקוף את ההגבלות הפנימיות ולהפעיל את קופיילוט עם מודלים פתוחים ובלתי מוגבלים לשימוש ולגישה". אבני הסביר כי "גיטהאב מנסה לספק אבטחה מוטמעת, אבל בסופו של יום, זו מערכת יחסים בין ההאקרים לאלה המנסים למנוע את הפגיעה. שחקנים זדוניים ימשיכו לעבוד כדי למצוא ולנצל חולשות, באותה מהירות אם לא מהר יותר – ממה שניתן ליישם את אמצעי המניעה. לכן, חשוב שחברות ישקלו להטמיע שכבת אבטחת AI ייעודית – במיוחד ברקע האימוץ הגובר של בינה מלאכותית ארגונית".
כחצי טריליון ד' – בסיכון משמעותי עקב חולשות
החוקרים ציינו כי "גרטנר צופה שעד 2028 75% ממהנדסי התוכנה בארגונים ישתמשו בעוזרי קוד מבוססי AI, לעומת פחות מ-10% בתחילת 2023. בנוסף, יישום התוכנה הארגונית צפוי לפי גרטנר לצמוח לשוק של 662 מיליארד דולר עד 2028. משמעות הדבר עלולה להעמיד כמעט 500 מיליארד דולר משוק האנטרפרייז והחברות המקבילות – בסיכון משמעותי לטענות על שימוש לרעה בקופיילוט של בינה מלאכותית, ולקנסות פוטנציאליים יקרים בשל הפרות רגולציה. המצב עלול להשאיר אותם חשופים להתקפות אבטחה מצד תוקפים זדוניים שיודעים כיצד לנצל את נקודות התורפה".
לפי חברת הגנת הסייבר הישראלית, גיטהאב סירבה לתת עדיפות לתיקון החולשות.
מגיטהאב נמסר בתגובה כי "אנו ממשיכים לשפר את אמצעי הבטיחות הקיימים, כדי למנוע תפוקות מזיקות ופוגעניות, כחלק מפיתוח הבינה המלאכותית האחראית שלנו. נמשיך להשקיע במניעת שימוש לרעה במוצרינו".
סטארט-אפ הסייבר הישראלי פעל תחת המכ"ם, עד שבמאי האחרון השלים סבב גיוס סיד של 7 מיליון דולר. את הגיוס הובילו הקרנות סקויה קפיטל ו-Index Ventures והשתתפו בו כמה משקיעים פרטיים, ביניהם – סם אלטמן, מייסד שותף ומנכ"ל OpenAI.
אייפקס הוקמה על ידי מתן דרמן, המנכ"ל ואבני, סמנכ"ל מוצר. השניים הם יוצאי 8200, ובשירותם הצבאי קיבלו את פרס ביטחון ישראל. אייפקס פיתחה פלטפורמת אבטחה לעולם הבינה מלאכותית, שמאפשרת זיהוי בזמן אמת, חקירה ותגובה מהירה של מתקפות סייבר נגד מערכות AI.
תגובות
(0)