גם בישראל: רוב ההנהלות אישרו פרויקטי AI למרות החשש מאיומים

ארגונים ברחבי העולם, וגם בישראל, מקדמים פריסת בינה מלאכותית תוך התעלמות מסיכוני אבטחה וציות ברורים. כך עולה ממחקר חדש שפרסמה TrendAI, החטיבה העסקית של טרנד מיקרו.

המחקר נערך בקרב 3,700 מקבלי החלטות מהעולם העסקי וה-IT ב-22 מדינות, כולל ישראל, והוא חשף לחץ כבד לפריסת AI – לצד חוסר ודאות נרחב בנושאי אבטחה, ציות ואחריות.

"הטכנולוגיה רצה קדימה, והארגונים מנסים, לעיתים בלא הצלחה, להדביק את הקצב", נכתב. עלה ממנו כי הלחץ לאישור של הטמעת בינה מלאכותית יוצרת, Gen AI – בישראל, גבוה משמעותית מהממוצע העולמי. זאת, בשל כמה גורמים המצביעים על פער בין הדחף לחדשנות לבין המוכנות הארגונית. "הפער גם מרמז על סתירה פנימית: מקבלי ההחלטות חוששים מהאיומים, אך חשים מחויבים לאשר את הטכנולוגיה, כדי לא להישאר מאחור".

עוד פער נחשף בעולם ראיית הסיכונים, בין הדרג העסקי לדרג הטכנולוגי. בעוד ש-67%  ממקבלי ההחלטות בארגונים בעולם דיווחו על לחץ לאשר פרויקטי AI למרות סיכונתצוגה מקדימה (נפתח בטאב חדש)י אבטחה – בישראל הנתונים גבוהים בהרבה. 77% מבין מקבלי החלטות IT ושיא של 89%  בקרב מקבלי החלטות עסקיים, דיווחו שחשו לחץ לאשר הטמעות AI שהיו כרוכות בסיכוני אבטחת סייבר. לפי המנהלים, "הלחץ לנוע מהר והצורך להישאר תחרותיים – גובר על שיקולי האבטחה".

מקבלי ההחלטות העסקיים, שחשים את הלחץ בצורה החריפה ביותר, ציינו החוקרים, "הם גם אלו המביעים את החשש הגבוה ביותר מפני שימוש לרעה ב-AI, כמו זיוף קול (Voice cloning) של מנהלים בכירים.

"השילוב בין תרבות של חדשנות מהירה, היעדר מדיניות פנים-ארגונית וחוסר ביטחון בידע הרגולטורי – יוצר סערה מושלמת, בה הלחץ בישראל לאשר מערכות GenAI מסוכנות, גבוה באופן חריג מהמקובל בעולם".

אי-ודאות משפטית ואכיפה רגולטורית

מהמחקר עלה, כי קיים פער ידע עמוק לגבי המסגרות המשפטיות המפקחות על הטכנולוגיה. רק 27% ממנהלי ה-IT בישראל ו-19% מהמנהלים העסקיים, חשים ביטחון בהבנת החקיקה הרלוונטית ובהבנת המסגרות המשפטיות המסדירות AI. זאת לעומת 53% מאנשי ה-IT בעולם, ו-32% מהתחום העסקי. "חוסר הבהירות לגבי הרגולציה המקומית והבינלאומית", נכתב, "מביא לכך שארגונים מאשרים פריסה מבלי להבין את ההשלכות המשפטיות המלאות".

"ארגונים מטמיעים AI מהר יותר מכפי שהם יכולים לנהל את הסיכונים הנלווים אליו", כך דיווחו 60% ממנהלי ה-IT בארגונים בעולם, לצד % 54 ממקבלי ההחלטות העסקיים בעולם.

בישראל, 32% ממנהלי ה-IT ו-26% מהמנהלים העסקיים מסכימים ש-AI מתקדם מהר מדי ביחס לאבטחה. "באקו-סיסטם הטכנולוגי הישראלי, המהירות היא ערך עליון. לכו, הלחץ להטמיע כלי AI נתפס כקריטי להישרדות עסקית, גם אם הוא כרוך בנטילת סיכוני אבטחה קיצוניים".

השליטה ב-AI – אינה בשלה

לפי המחקר, "בישראל קיים מחסור חמור במדיניות רשמית המסדירה את השימוש בתחום". רק 20% מהארגונים בישראל מחזיקים במדיניות AI מקיפה, לעומת כ-38% בעולם בממוצע. "המצב מותיר את מקבלי ההחלטות חשופים ללחצים חיצוניים ופנימיים לאישור מערכות בלא מסגרת עבודה מסודרת להערכת סיכונים".

40% מהארגונים בעולם ו-30% בישראל, תומכים בהכנסת מנגנוני "Kill Switch" לעצירת המערכות – במקרה של כשל או שימוש לרעה. רוב המשיבים, בעולם ובישראל, סבורים שבין 21% ל-41% מהתנהגויותAI  הזדוניות מזוהות כיום. "נחשפת מציאות מדאיגה", כתבו, "של שטח מת נרחב במערכי ההגנה הארגוניים. מרבית האיומים במרחב ה-AI אינם מזוהים, וכך ארגונים חשופים לפעילות זדונית תחת הרדאר".

החוקרים סיכמו: "בישראל יש פער עמוק, בין הריצה המהירה לאימוץ טכנולוגיות חדשות – לבין היכולת המוגבלת לנטר ולאבטח אותן בפועל. חוסר הנראות הזה מחמיר, כשארגונים רבים חשים לחץ תחרותי לאשר הטמעות פרויקטיAI , גם כשהן כרוכות בסיכוני אבטחה ידועים. בכך הם מהמרים על ביטחונם – בעולם שבו רוב הפעילות הזדונית נותרת סמויה מהעין".