מה הסכנות ב-וייב קודינג ואיך נמנעים מהן?

לפני כמה חודשים כתבתי כאן על Base44, כלי הבינה המלאכותית שמאפשר לכל אחד ליצור אפליקציות, אתרים ותוכנות בעצמו, פשוט על ידי כתיבת שאילתה (פרומפט). מאז הספיקה Base44 להירכש על ידי וויקס, והתופעה של כתיבת קוד נרחבת באמצעות AI קיבלה כינוי משל עצמה – וייב קודינג (Vibe coding).

שלשום (א') חשף עמיתי, רן בר-זיק, ב-TheMarker כי מגייס שבנה אתר למחפשי עבודה באמצעות Base44 קיבל אתר עם פרצת אבטחה משמעותית, ופרטיהם של 2,421 מחפשי עבודה דלפו לרשת. לפחות 312 מהם ציינו במפורש שהם מחפשים עבודה באופן דיסקרטי, מה שאומר שבהכרח, הפרטיות שלהם נפגעה. הפגיעה, כך בכתבה של בר-זיק, הייתה חמורה שבעתיים, כי האתר חשף גם חוות דעת על המועמדים, את העובדה שהם מחפשים עבודה באופן דיסקרטי והיכן הם מועסקים כעת. מן הסתם, עובד שמחפש לעבור לתפקיד הבא בחברה אחרת באופן דיסקרטי לא רוצה שהמעסיק הנוכחי שלו ידע על זה. אלא שחשיפת הפרטים בהחלט מאפשרת למי רוצה להלשין עליו למעסיק הנוכחי – לעשות זאת. החלק הגרוע הוא שכל מה שהיה צריך כדי לחשוף את המידע הזה היה דפדפן אינטרנט.

הסיפור הזה חושף "צד אפל", של הקלילות שבה כל אחד יכול ליצור לעצמו שירות, תוכנה או אתר באמצעות בינה מלאכותית ו-וייב קודינג, ועד כמה מקומו של המתכנת האנושי או איש האבטחה שיעבור על הקוד עדיין משמעותי. זאת, במיוחד במקרים של יצירת בסיס נתונים שמכיל פרטים אישיים של אנשים, ובמיוחד לאור כניסת תיקון 13 לחוק הגנת הפרטיות לתוקפו לפני כשבועיים. התיקון מטיל חובות חדשות על כל מי שמחזיק מאגר נתונים שכזה, ובוודאי מישהו שמחזיק במאגר נתונים של מחפשי עבודה. בר-זיק, שבנוסף להיותו עיתונאי הוא מפתח תוכנה במקצועו, מדגיש גם את ההבדל בין שעשוע ביצירת אפליקציות כהוכחת היתכנות או משהו פנימי לבין מערכת פעילה וחשופה חיצונית (פרודקשן, בעגה המקצועית), שמכילה פרטים רגישים כמו במקרה שנחשף.

מה אומרים המומחים?

אז ליצירת אפליקציות בעזרת בינות מלאכותיות יוצרות יש גם צד בעייתי וחורי אבטחה אפשריים. מה עושים כדי להימנע ממקרה כמו זה שתיארתי כאן? ועל מי מוטלת האחריות לבדיקות האבטחה ומניעת פרצות – האם על ה-GenAI או שמא על המשתמש?

אם אתם יוצרים אתר, אפליקציה או שירות באמצעות בינה מלאכותית כזו או אחרת, שאיננו לשימוש עצמי או מהווה מוצר מעבר להוכחת היתכנות או שעשוע, כדאי להכניס אדם לתוך הלולאה

אלכס ויטוחנובסקי, מנהל מוצר בקומסקיור, שמפיצה פתרונות אבטחה לסייבר, אומר כי "ללא קשר לעובדה שהמועמדים ביקשו וציינו מפורשות שהליך הגיוס יהיה דיסקרטי וחסוי, גם יזם עצמאי או עובד יחיד שבונה אתר מבוסס AI ומחזיק במידע אישי, כמו קורות חיים של מועמדים, מחויב, לפי התיקון החדש לחוק, לשמור על הנתונים ברמת אבטחה בסיסית או בינונית. האחריות חלה על כל מי שמחזיק במידע אישי, ולא רק על חברות וארגונים, והחוק מאפשר להטיל קנסות כבדים על בעלי תפקידים במקרה של דליפה. פריצות כמו זו שנחשפה באחרונה ב-Base44 ממחישות עד כמה חשוב להטמיע אמצעי אבטחה מתקדמים כבר משלב הפיתוח, במיוחד בפלטפורמות No-code/Low-code, שבהן האחריות לאבטחה נופלת בעיקר על היוצר".

מה יוצר האתר צריך לבדוק?

לדברי ערן רונן, מנכ"ל משותף וסמנכ"ל אבטחת המידע של ג'מבו מייל, "האחריות המשפטית על דליפת מידע חלה באופן משותף הן על הפלטפורמה הטכנולוגית והן על החברה שיצרה את השירות באמצעותה, כאשר כל צד נושא באחריות להיבטים שונים של אבטחת המידע".

"מקרה זה מדגיש בעיה חדשה ומסוכנת בעידן שבו כל אחד יכול 'לתכנת' באמצעות AI. אי אפשר להטיל את כל האשמה על הפלטפורמה או לפטור את יוצר האתר מאחריות. כל צד כשל בתחומו", אמר.

"בראש ובראשונה", ציין רונן, "יש את האחריות הבסיסית, שחלה על יוצר האתר, המגייס. מרגע שהוא החליט לאסוף מידע אישי, ובמיוחד מידע רגיש כמו קורות חיים ופרטי חיפוש דיסקרטי, הוא הפך להיות 'בקר המידע' (Data Controller). תפקיד זה מטיל עליו חובת זהירות בסיסית".

"הטענה 'אני לא מתכנת' לא פוטרת אותו מאחריות. גם ללא ידע טכני, הוא חייב לבצע בדיקות פשוטות: האם הקישור הזה עובד? מי יכול לראות אותו? האם המידע שהוא רואה הוא רק שלו? 'סמכתי על הפלטפורמה' היא לא הגנה מספקת. כאשר אתה בונה בית באמצעות קבלן, אתה עדיין בודק שהדלת ננעלת. החובה לבחון את התוצר הסופי, במיוחד כשמדובר בפרטיות של אנשים אחרים, חלה על מי שיזם את איסוף המידע", הוסיף.

עם זאת, לדבריו, יש גם את האחריות של Base44, שהיא עמוקה ומערכתית. "כאשר חברה מנגישה כלי עוצמתי כמו בניית אפליקציות לקהל לא טכני, היא נוטלת על עצמה אחריות מוגברת לוודא שהתוצרים שהכלי שלה מייצר יהיו מאובטחים כברירת מחדל", אמר רונן. "יצירת קישור ציבורי לקובץ שמכיל את כל מסד הנתונים היא לא רק באג, אלא כשל ארכיטקטוני יסודי ועדות להיעדר מוחלט של תפיסת 'פרטיות בתכנון' (Privacy by Design). פלטפורמה כזו חייבת להניח שהמשתמש שלה אינו מומחה אבטחה ולבנות עבורו 'מעקות בטיחות' שימנעו טעויות קריטיות. במקרה הזה, הפלטפורמה לא רק נתנה למשתמש כלי, היא נתנה לו כלי פגום מיסודו שיצר סיכון באופן אוטומטי".

רונן הוסיף כי "בעידן החדש הזה האחריות מתחלקת: המשתמש אחראי על מה שהוא בונה וחייב לבדוק את התוצר, והפלטפורמה אחראית לספק כלים בטוחים כברירת מחדל, במיוחד כשהיא פונה לקהל הרחב".

אז אם אתם יוצרים אתר, אפליקציה או שירות באמצעות בינה מלאכותית כזו או אחרת, שאיננו לשימוש עצמי או מהווה מוצר מעבר להוכחת היתכנות או שעשוע, כדאי להכניס אדם לתוך הלולאה. החזון של אילון מאסק על סוכני כתיבת תוכנה שיחליפו את מיקרוסופט עוד רחוק ממימוש.