מחקר: חברות AI לא טובות בשמירת סודות

חברות בינה מלאכותית מובילות אינן טובות יותר בשמירת סודות – מכל אדם אחר שכותב קוד: לכשני שלישים מחברות ה-AI המובילות דלפו סודות ב-GitHub, כך לפי מחקר חדש של וויז (Wiz).

לפי ענקית אבטחת הענן, 65% מבין 50 חברות ה-AI המובילות, דלפו סודות מאומתים ל-GitHub. המדובר בפרטי גישה רגישים, כגון מפתחות API, טוקנים וסיסמאות, שלעיתים מסתתרים בעותקים שנמחקו, או נמצאים במאגרי מפתחים, שרוב הסורקים כלל אינם מגיעים אליהם.

חברות ה-AI הבולטות בעולם כוללות ענקיות כמו אנתרופיק (Anthropic) ו-OpenAI לצד שחקניות צעירות כמו פוטורום (Photoroom) ו סאקאן (Sakan) AI. "דליפות כאלו עלולות לחשוף מודלים פרטיים, לוגים פנימיים, או נתונים על מבנה הארגון – מידע שעשוי לשמש תוקפים בהנדסה חברתית", כתבו החוקרים, שי ברקוביץ' ורמי מקארת'י, "עבור הצוותים שבונים את עתיד ה-AI – מהירות ואבטחה צריכות לנוע יחד".

החוקרים בנו את מחקרם על בסיס ההנחה שלפיה "לכל חברת AI עם טביעת רגל גדולה מספיק של GitHub – יש בהחלט סודות חשופים". הם הסבירו, כי "מיקדנו את תשומת הלב שלנו בחברות הפרטיות הכלולות ב-Forbes AI 50, כי זה אחד המדדים המכובדים ביותר לחדשנות בתחום, מחברות מובילות כבר כיום ועד לשחקנים מתפתחים כמו Glean ו-Crusoe. כולן משבשות את השוק בדרכים חדשות ומרגשות, מה שהופך את הרשימה לעדשה אידיאלית להתבונן ולחקור כיצד משתלבת האבטחה".

החוקרים אמרו, כי "סרקנו את GitHub לחשיפות. כדי לזהות משטח תקיפה מובחן, התמקדנו בשלושה ממדים: עומק, היקף וכיסוי. דליפת סודות נדמית לעתים קרובות כקרחון: יש קבוצה של סיכונים ידועים, שנחשפו בפומבי בארגוני GitHhub, אך ישנם גם סיכונים עמוקים יותר, תחת פני השטח. הסריקה העמוקה שלנו כוללת גם נתונים היסטוריים, כאלה שנמחקו, יומני זרימת עבודה ועוד. הרחבנו את כלי הסריקה שלנו כדי לחשוף את הסודות שבאופן מסורתי נשארים חבויים".

"לאחר שסרקנו את חברות ה-AI המובילות, קיבלנו תוצאה קשה", כתבו ברקוביץ' ומקארת'י, "בכמעט שני שלישים מהחברות שנותחו היו דליפות סודות מאומתים". הם ציינו, כי השווי המצרפי של החברות שמהן דלפו סודות, עומד על יותר מ-400 מיליארד דולר.

"בעוד שדליפות בחברות AI גדולות, כמו אילוונלאבס (ElevenLabs)  ולאנגצ'יין (Langchain) – נחשפו ותוקנו מייד, הרי שברמה הכללית, נוף החשיפה הוא מאתגר", נכתב, "כמעט מחצית מהחשיפות לא טופלו או לא זכו למענה. לחברות רבות לא היה ערוץ גילוי רשמי, או שהן לא השיבו, או שלא הצליחו לפתור את הבעיה. מנגד, בנימה חיובית: הדלפות נוספות שדווחו זכו להכרה וטופלו במהירות".

"לא הצלחנו למצוא כל סוד שהודלף בכל חברת AI", כתבו החוקרים, "עם זאת, אנו מאמינים שהמסקנות שלנו חיוניות: בכל מצב, יש לערוך סריקת סודות. זו ההגנה המיידית והבלתי ניתנת לדיון – מפני חשיפה. גם חברות עם טביעות הרגל הקטנות ביותר עלולות להיחשף לדליפות סודות; התכוננו לחשיפה: ערוצי חשיפה הם מרכיב חיוני בתוכנית אבטחה, והם נחוצים במיוחד בתחילת הדרך של חברות סטארט-אפ ל-AI. בנוסף, יש להתייחס לעובדים כחלק ממשטח ההתקפה של החברה. יש להתאים את מדיניות הסריקה. ככל שמקרי השימוש ב-AI מתפתחים, נדרש לכסות סוגי קבצים חדשים ו-וקטורים סודיים. יש לבקר מחדש ולהרחיב את כיסוי הסורק, כך שיכלול את הדור החדש של אסימוני פלטפורמת AI. ככל שמתווספים לשוק סוגים סודיים נוספים, הסורק חייב להיות ניתן להרחבה בקלות".

"החקירה שלנו מראה בבירור", סיכמו, "כי איומים אורבים עמוק מתחת לפני השטח. המסר ברור: מהירות לא יכולה לפגוע באבטחה. אנו קוראים לתעשייה לאמץ את דפוס החשיבה 'עומק, היקף וכיסוי', כדי להעלות בנחישות את תקן ההגנה ולאבטח את הדור הבא של AI".