"מפתחים רבים לא חושבים על ציות"

"בהרבה מאוד מקרים, צריכים להתחיל, כבר בשלב מאוד מוקדם של פיתוח התוכנה, לבדוק את ההתאמה לרגולציות. זה אמנם מורכב, עולה לא מעט כסף ודורש הרבה משאבים נוספים, אבל זה משהו שחייבים להתייחס אליו. הבעיה היא שלא מעט מהמפתחים בשלב הראשון בכלל לא חושבים על ציות", כך אמר מירן גאליס, מנכ"ל ומייסד Scytale AI.

גאליס אמר את הדברים בכנס Fintech Junction 2025 שנערך באחרונה בתל אביב, בהפקת Lynx מבית אנשים ומחשבים. הוא שוחח עם עידן ויינר, המנכ"ל ואחד המייסדים של illustria.ai. שיחתם עסקה בעיקר בשאלות כיצד דואגים המפתחים לאבטח את העתיד, ואיך משלבים את ה-AI לצד שמירה על זהויות ועל האמון של הלקוחות בעידן שבו מתקדמים בכיוון שבו עושים כל דבר, קודם כל, באופן דיגיטלי.

לדברי גאליס, הוא שמח לראות שיש שינוי במגמה: "אנחנו רואים שינוי מציות תגובתי, כי חייבים לעשות את זה, להבנה שכדאי מאוד להתייחס להיבטים הללו מהרגע הראשון, כי אחרת זה יכול שלא להיגמר. אני חושב, בנוסף, שרואים את השינוי לגישה פרו-אקטיבית, כי החברות מתחילות להבין שאם הן רוצות לנוע מהר, אי עמידה בדרישות הציות יכול לעכב אותן. למעשה, אם עושים את הדברים נכון, ייתכן שזה יביא להאצת הוצאת המוצר של החברה לשוק".

הוא ציין כי ההשתלבות של ה-AI רק הגבירה את הצורך בהתאמה לרגולציות, במיוחד אם רוצים לעבוד עם מקומות שונים בעולם שבהם יש חוקים שונים. לדבריו, כל חברה צריכה לשאול את עצמה את שאלות ההתאמה הללו.

לשאלת המנחה מה אפשר לעשות, על ידי שימוש ב-AI, כדי להעביר את המורכבות הזו ברגולציות, השיב גאליס: "אני ממליץ לבנות כלי בינה מלאכותית שמכשיר את העובדים והמנהלים להבין מה הציות שהם מחויבים אליו בחברה – ולא רק החוצה, אלא גם פנימה. אני ממליץ להתחיל עם הציות מהצעד הראשון, כי זה מאפשר לצאת לשוק ולהראות שיש מוצר שאפשר למכור ולהריץ עוד לפני שמגיעים לסבב הגיוס השני".

הוא התייחס גם לגל ההולך וגובר של שימוש בסוכני AI: "בתרחישים מסוימים, קשה מאוד לחזות מה יקרה בעת שימוש בסוכן AI, ולפעמים קורה שעושים הרצות ופעם אחר פעם מקבלים תוצאות שונות – מה שכמובן לא יכול לעבור. הבדיקות בעולם החדש הזה הן אחד הדברים הכי חשובים. חייבים לנסות למזער את הסיכונים שזה יקרה – אבל זה תופס, ואולי קצת מהר מדי. בכל רחבי העולם אף אחד לא רוצה לעצור את החדשנות, אבל מהצד השני, אין מישהו שמבין לגמרי מהם הסיכונים המלאים של השימוש בסוכנים. חייבים להיות עם היד על הדופק כל הזמן".

"זהו מרוץ חימוש לעד"

משתתף נוסף בשיחה היה פאבל גולדמן-קלאיידין, מנהל תחום בינה מלאכותית ולימוד מכונה בסאמסאב. הוא התייחס לשאלה כיצד המגנים יכולים לשמור על הקצב, ואולי אף להשיג מקדמה במאבק מול הפשיעה ברשת.

"בכנות, זה אכן קשה, ולכן, אחד התרגילים שאנחנו עושים בחברה הוא שבכל צעד אנחנו מבצעים מהלכים כדי לאתר בעיות בפיתוח, לקבל את זה שיכולה להיות פריצה, ואם היא קורית – להבטיח שניתן יהיה להתגבר על הכול", אמר. "אנחנו בונים פתרון מרובה היבטים, שיוכל לסייע לנו במקרים כאלה".

פאבל גולדמן-קלאיידין, ראש תחום בינה מלאכותית ולימוד מכונה בסאמסאב. צילום: נדב כהן יונתן

וויינר שאל את גולדמן-קלאיידין: האם יכול להיות לזה סוף? תשובתו הייתה שלילית: "לא, אין לכך קצה. זהו מרוץ חימוש לעד, ויש כאן סוג של הנאה, אם אתה טכנולוג אמיתי. כאן, אין דבר כזה סוף, כל הזמן צריכים לעשות משהו, וחייבים ללמוד כל הזמן. ביצוע הגנה מחייב לדעת מה קורה בכל נקודה בזמן, כי צריכים להבטיח שאפשר יהיה לתקן את המערכת".

הוא הסכים עם גאליס לגבי הציות לרגולציות: "מפתחים לא אוהבים לחשוב על ציות, אבל ברור שיש בזה צורך, וכדאי לבחון את השטח הזה מראש, כי זה עוזר מאוד לאחר מכן, אפילו בדברים פשוטים מאוד".

בתשובה לשאלה האם אפשר לבצע אבטחה ותוך כדי כך לשמור על פתיחות אמר גולדמן-קלאיידין: "זה אכן מה שצריך לבנות. יש הרבה דברים שמחייבים את הגישה הזו, ונכון לעכשיו, חייב שיהיה בן אנוש בתהליך, הוא לא יכול להתבצע רק על ידי AI. לפעמים זה קשה, אבל חייבים לעשות את זה, כי חייבת להיות הגנה, למקרה של תקלה. הסוכנים החכמים עדיין לא שם, אבל הם בהחלט בדרך. יש כאן דיון על האיזון בין חדשנות, סוכנים ואבטחה".