"ה-AI נחמדה מדי לפעמים – ושופעת הטיות"

"מחקר שהייתי שותף לכתיבתו, העלה שאימוץ עיוור של בינה מלאכותית יוצרת (GenAI) מסכן ארגונים. זה נובע מטעויות חשיבה שמנהלים עושים כשהם ניגשים לתחום. יש לא מעט הטיות בעולם חדש זה, חלקן משמעותיות. כך, למשל, מודלי ה-AI מפגינים התנהגות 'נחמדה מדי'. המודלים נכשלים ביכולת להפריד בין אירועים קשורים ולא קשורים בשיקולים. דוגמה לכך היא כאשר אירועים לא רלוונטיים השפיעו משמעותית על שער הריבית. המודלים גם עושים הטיית מודעות לזמן: הם פועלים על בסיס נתונים מיושנים, בזמן שהם בטוחים שמדובר בנתונים עדכניים להיום. זהו פתח לכשלים יסודיים בעלי השפעה פיננסית ותדמיתית משמעותית", כך אמר ולדימיר קרופוטוב, חוקר בכיר לאיומי סייבר, AI וטכנולוגיות עתידיות ב-TrendAI.

בראיון בלעדי עימו, אמר קרופוטוב לאנשים ומחשבים כי "אחת מטעויות החשיבה המרכזיות שמנהלים עושים כשהם ניגשים לתחום, היא להחיל על מודלי שפה גדולים (LLMs) את אותו מודל אמון שמחילים על שאילתות בבסיסי נתונים, או על פלט טיפוסי של תוכנה – כאשר טבעם של פלטי AI אינו דטרמיניסטי. אותה שאילתא יכולה להחזיר תוצאות שונות באופן משמעותי".

"טעות נוספת", הוא ציין, "היא לבדוק AI במקום אחד – ואז ליישם אותה באופן גלובלי. אותו דבר, אותה החלטה, הצעה, או פעילות – יכולים להיחשב מקובלים או לא, חיוביים או שליליים, בהתאם לסביבה, לתזמון, לאזור ולחברה. לכן, טעות היא לחשוב, במיוחד בארגונים בינלאומיים ובתאגידים חוצי־גבולות, שמה שנכון באזור אחד, לעתים – מטה החברה, הוא הדרך היחידה לעשות זאת נכון. מנהלים צריכים להבין: החלוקה של העולם לטוב ורע בלבד היא פשטנית מדי. הערכים התרבותיים והחברתיים באזור מסוים יכולים להיות שונים מאוד ויש להתחשב בהם. למודלים יש לעתים הרבה יותר מידע כדי לשפוט במדויק האם יש להם מספיק הקשר וסדרי עדיפויות. אך כאשר איננו מספקים הקשר מספיק, המודלים נכשלים ומספקים תוצאות שסותרות את הערכים שאנו מצפים להם".

"הטיות אזוריות, תרבותיות ולעיתים פוליטיות"

"הממצאים שלנו", ציין החוקר ולדימיר קרופוטוב, "מצביעים על הטיות אזוריות, תרבותיות ולעיתים פוליטיות. לכן, נדרשת אסטרטגיה עבור חברות גלובליות שפועלות בשווקים עם נורמות שונות: לפני פריסת AI יש להגדיר בצורה ברורה ערכים תאגידיים ותרבותיים, ועמדות בנושאים רגישים תרבותית, דתית וגיאו-פוליטית. את הבדיקות יש לערוך תוך התחשבות בערכים ובנורמות הייחודיים לכל אזור, ולא להשליך מתרבות אחת ואז ליישם את התשובה בפריסה גלובלית. בנוסף, יש לבצע ביקורות ובקרות באופן קבוע". הוא ציין כי "יש להגדיר הקשר בצורה מפורשת במקום להזין שאלות כלליות. יש ליישר את התוכן עם ערכי הארגון, האזור והתרבות שם נוצרה השאילתה".

"לגבי ההטיות", אמר, "כששואלים שוב ושוב את המודל את אותן שאלות ומביעים טון שלילי לתשובות הקודמות, המשתמש יכול לשנות את ההחלטות ואת ספי הקבלה של המודל".

"בהיבט הרגולטורי", אמר החוקר כי "זה צריך להיעשות בלא לחנוק חדשנות. חשוב להתייחס ל-AI כאל כלי: ככלי הוא מתאים למשימות מסוימות 'מהקופסה', אך למשימות אחרות הוא מביא סיכונים נוספים שצריך לטפל לפני. ניתן ליישם מגוון מסגרות לניהול סיכונים, אך תמיד מדובר בפשרה בין סיכונים לרווחים. רבות מהדוגמאות לפלטי AI במחקר שלנו מקובלות לפחות בחלק מהאזורים בעולם, בעוד דוגמאות אחרות מראות חוסר יכולת של המודלים לחלץ הקשר חשוב ומשמעותי לפני יצירת הפלט. הבנת מגבלות כאלה למשימות מסוימות בארגון מסוים יכולה לעזור להתמודד טוב יותר עם הבעיות תחת רגולציה מחמירה. רגולציה נחוצה, אך אם היא לא כללית מספיק, היא תמיד תסדיר את המצב המיושן של ה-AI, כי הטכנולוגיה מקדימה אותה בהתקדמות".

"AI היא הכרח: אי אפשר להישאר תחרותיים בלי להשתמש בה", ציין קרופוטוב. "מנהלים צריכים לחשוב כיצד מדינות או עסקים יתפקדו למשך יממה או חודש – אם AI תהיה לא נגישה. מודלי AI ריבוניים ומקומיים יהיו הצעד הבא, כי יש מספר מוגבל של ספקי AI גלובליים. המשמעות: AI הופכת למנוף מיקוח משמעותי בין מדינות. נושא נוסף הוא מדינות בעלות אנרגיה זולה ורגולציה מוגבלת. הן ישפרו משמעותית את מעמדן במרוץ. לעומתן, מדינות גדולות עם הרבה מגבלות ועלויות אנרגיה גבוהות – יימצאו בעמדה מורכבת".

"יש להימנע ממצב של הסתמכות עיוורת על הפלט", ציין. "במצב ה-AI הנוכחי, כל עוד העלות של הסיכונים הפיננסיים, התדמיתיים או האחרים גבוהה – יש צורך באימות אנושי. הגישה יכולה להיות דומה מאוד להפחתת הונאות. בנוסף, יש לשקול סיכוני מוניטין. פוסט שגוי ברשתות החברתיות יכול להרוס קריירה פוליטית. דחיית הלוואה ללקוח על בסיס לבוש, גיל או מוצא, כלומר החלטה פיננסית – עלולה ליצור נזק תדמיתי משמעותי".

"לו אני מנכ"ל, המקבל החלטה אחת, שתעצב את אימוץ ה-AI", סיכם, "הייתי מקים צוות מומחים שמבינים בצורה ברורה את המצב הנוכחי ואת מגבלות ה-AI".