"צריך גישה חדשה ליישום אבטחת AI מהרגע הראשון של הפיתוח"

"אז מה זה כל ה-AI הזה? מצד אחד זה כלי טכנולוגי, מצד שני זה סוג של ישות ומצד שלישי הוא מאוד נחמד אליי בבוקר ועונה לי ב'היי, מה שלומך?'. אז איך עושים ל-אורקל מטורף כזה אבטחה? הכנו טבלת אקסל ענקית, בה שילבנו את כל המשתנים עבור כל מודלי ה-LLM, הצבנו מולם את כל ההתקפות המוכרות לנו וניתחנו בצורה רוחבית כל הסיכונים, כל המתקפות, וכל האינטגרציות – ואז מנהל המוצר אמר 'אני לא רוצה לראות יותר את האקסל הזה, כי אחרת אני בחיים לא אוציא מוצר לשוק' – וזה הוביל, כמובן, לתובנות", כך סיפרה יפעת בראלי, מנהלת אטבחת מידע ב-Nebius.ai בכנס Infosec 2025 של אנשים ומחשבים.

התובנות עליהן דיברה בראלי בכנס האבטחה הענק, שנערך זו השנה ה-26, כוללות את הצורך בגישה חדשה להיבט האבטחה בעולם הנוכחי.

"צריך גישה חדשה לפיה מיישמים אבטחה מהרגע הראשון של הפיתוח מתוך הבנה שה-AI מגדיל את שטח החשיפה לאיומים של הארגון עוד יותר, ולשמור על פשטות, כי אם זה לא יהיה מאוד פשוט, זה פשוט לא יקרה – מסתפקים בכמה שאלות מדויקות בכל היבט של הדאטה, המודל וביצוע ההיסק, וכל מודל AI לפני שהוא יוצא לשוק חייב לעמוד בשאלות הללו, וגם אם זה לא יגן על הכל, זה יגן על הרוחב המוחלט אם עושים את זה מתחילת הדרך", היא אמרה.

רם לוי, מנכ"ל קונפידנס. צילום: ניב קנטור

"לא האמינו שאפשר לשבש את הכל, וזה בדיוק מה שקרה"

רם לוי, מנכ"ל קונפידנס, דיבר על תובנות שמסייעות להיערכות למתקפות סייבר. "כשהתותחים רועשים, הביטים שותקים. התוקפים כבר מזמן חצו את הגבול המוסרי וברגע שמדינות תוקפות בתי חולים זה כבר משהו חדש. עכשיו רואים שוב עלייה בתקיפות. הבעיה: אנחנו מותשים, קורונה, מלחמה, יש הרבה תירוצים למה לא להתמודד עם זה, והסיבה האמיתית היא שזה נורא קשה", הוא אמר.

לדעתו יש פער גדול בין התפישה למציאות, והוא הביא לדוגמה את מתקפת הקונטי על בתי החולים באירלנד. "לא האמינו שאפשר לשבש את הכל, וזה בדיוק מה שקרה. המתקפה הזו גרמה לשיבושים נרחבים וארוכים מהמצופה. פתאום התחילו לעבוד עם דף ועט והצוותים הצעירים לא ידעו מה לעשות עם זה. אני לא חושב שיש מספיק היערכות לפגיעה מכוונת רוחבית, אין תפישת תרגול וחניכה, והתרגולות לא מתאימות לסייבר בהיבט של המשכיות עסקית", טען לוי.

אחד ההיבטים החשובים בתקופות של אתגרים גדולים זה הלוגיסטיקה. "היא הופכת להיות מאמץ מאוד גדול כי היא צריכה המון תיאומים. אז כל ארגון חייב להכין את עצמו, והבינה מלאכותית מאוד יכולה לעזור בעיקר ללמוד ממקרים שקראו, ולתרגם את זה למונחים שלנו כדי שכולם יבינו", הוא סיכם.

גיא דגן, מנכ"ל קונסיינטה. צילום: ניב קנטור

"אם לא נשים ברקסים – נגיע למקום ממש לא טוב"

גיא דגן, מנכ"ל קונסיינטה, דיבר על סייבר והגורם האנושי על בימת Infosec 2025 ועל ההיבט של זה בקישור ל-AI. "אם לא נשים ברקסים – נגיע למקום ממש לא טוב, ואת זה אמר סם אלטמן (מנכ"ל OpenAI) בעצמו. וכל עוד הרובוטים לא החליפו אותנו, אנחנו נמצאים בקו ההגנה הראשון. למדנו שאפשר לעבוד על הצ'טבוטים בדרכים חוקיות/לא חוקיות, וזה הוביל לכך שאפשר לקנות בקלות נוזקות וגם לכתוב נוזקה חדשה זה לא ממש בעיה. לא רק ש-AI תכתוב את זה, היא גם תבצע QA", הוא סיפר.

דגן צייר עוד תמונות בדרך של הגורם האנושי של השימוש ב-AI, שעלול לסכן ארגונים. "אנחנו מסתמכים יותר ויותר על AI, ואנחנו רואים עובדים שמעלים פרטים אישיים או של העבודה ל-ChatGPT ודומיו, ועד היום אנחנו לא יודעים מה הארגונים שעומדים מאחורי עושים עם זה ולאן זה הולך, ומה זה יעשה לארגון שלנו, במיוחד, שזה גם מלווה בהרבה מאוד הזיות וטעויות".

"ואיך זה משפיע עלינו? למשל על ידי גניבה של 25 מיליון דולר באמצעות זיוף עמוק, כי העובד ראה מול עיניו את מנהל הכספים ולא ידע שזה מזויף", סיפר דגן. "וזו רק סנונית ראשונה והתקיפות מבוצעות נגד העובדים. כל העובדים שלכם צריכים לדעת את המקור, להיזהר מתוכן סנסציוני ולהתחיל לאמץ חשיבה ביקורתית, וזה נכון עד העובד האחרון בארגון, שצריך ללמוד להתמודד עם כזב עמוק, עם האיומים שהעולם הזה מביא עלינו ואיך מתמודדים עימם. זה אחד הדברים הכי חשובים לעשות השנה. צריכים לעלות רמה ולהתחיל ללמד אותם פסיכולוגיה ולא את רק טכנולוגיה".