"יש לאזן בין הערך המטורף של ה-AI והחששות מדלפי מידע"

"הבינה המלאכותית לסוגיה, ובתוכה ה-GenAI והבינה הסוכנית, מניבה ערכים רבים ומטורפים עבור כלל הארגון, העובדים ובוודאי שגם עבור המנהלים. אלא שלצד זאת, היא פותחת פתח לשורה ארוכה של פחדים וחששות, והראשון שביניהם הוא דליפת מידע ואובדן ידע. יש להביא לאיזון מושכל בין שני הווקטורים הסותרים", כך אמר ליאור אשכנזי, מנמ"ר משרד התיירות.

אשכנזי השתתף במפגש של פורום eGov מבית אנשים ומחשבים, שנערך היום (ד'), בשיתוף דל ישראל, במלון ממילא בירושלים. נושא המפגש היה "Cyber Resilience & AI – בונים חוסן לאומי בעידן של איומים משתנים", והנחה אותו יהודה קונפורטס, העורך הראשי של אנשים ומחשבים.

אשכנזי נטל חלק בפאנל שהנחה גד מרגי, מנהל אבטחת מידע במשרד החינוך. לדברי אשכנזי, "כאבי הראש והאיומים החדשים שנובעים ממהפכת הבינה המלאכותית הם רבים. הראשון שביניהם הוא חשש מדלף מידע. אנחנו מזהים בארגון שימוש נרחב ועצמאי ביישומי AI מצד העובדים, שנעשה למרות הנהלים והאיסורים שהוטלו. יש תנועה גדולה באירוע, העובדים נעים לכיוון השימוש בבינה מלאכותית. אנחנו מזהים את המגמה, ומנסים לעצור אותה".

"כמו כן, אנחנו רואים הזיות AI", ציין. "המודלים עונים את התשובות הלא נכונות, אבל כן את התשובות שהמשתמשים רוצים לשמוע. יש לוודא צמצום של התופעה".

"אנשים מפסיקים לשמר את הידע הארגוני"

"שדה נוסף שמעלה חששות הוא אובדן הידע הארגוני", אמר מנמ"ר משרד התיירות. "נוצר מצב שבו אנשים מפסיקים לשמר את הידע הארגוני הזה, כי הם סומכים על הבינה המלאכותית שתעשה זאת עבורם. כך הם מאבדים משילות על הידע ועל מקורות הידע הארגוניים".

"עולם סיכוני הסייבר מהווה עוד סיבה לדאגה", ציין. "הופעת ה-AI הביאה איתה סיכוני סייבר חדשים, ויש להיערך לקראתם, כדי להימנע מ-'טרללת' בתחום. אנחנו בעיצומו של מרוץ חימוש בסייבר ההגנתי וההתקפי כאחד, והדאגה היא מי מההאקרים יהיה הראשון להגיע למערכות שלנו".

"בהיבט הגנת הסייבר", אמר אשכנזי, "אנחנו צריכים להיות כל הזמן עם יד על הדופק. לדעתי, ולצערי, ההאקרים עדיין 'מובילים את האירוע', והם מתקדמים יותר מאשר המגנים בהרבה תחומים".

"היבט נוסף הוא ההלימה לרגולציות והאחריותיות. נדרש לוודא שיש מענה לשאלות 'מי ייתן את הדין' בתחום, ולא להיות במצב הכי קל, של 'להאשים את ה-ש"ג'", הוסיף.

לסיכום אמר אשכנזי כי "העולם הוא 'מטורלל' ואנחנו רק בתחילת האירוע של מהפכת ה-AI".

משתתפים נוספים בפאנל היו מתן שני, מנהל אבטחת מידע במשרד המשפטים; רבקה חביב, מנמ"רית מוזיאון ישראל; ומשה ידגר, מנהל תחום אבטחת מידע וסייבר במינהל טכנולוגיות דיגיטליות ומידע ברשות העתיקות.

המשך הדיווח על האירוע – מחר.