רגולטור עולמי: בינה מלאכותית מתקדמת – סיכון לתשתיות פיננסיות

אנדרו ביילי, נגיד בנק אנגליה, הזהיר כי בינה מלאכותית מתקדמת מהווה סיכונים לתשתיות פיננסיות.

ביילי שלח מכתב שלשום (ב') לשרי האוצר של ה-G20 ולנגידי הבנקים המרכזיים. המסמך פורסם זמן קצר לפני שהבכירים הפיננסיים התכנסו באשוויל, צפון קרוליינה. ביילי כתב את המסמך בכובעו כראש מועצת היציבות הפיננסית, FSB, הגוף הבינלאומי המפקח על בריאות המערכת הפיננסית והמתאם רגולציה פיננסית.

ביילי הזהיר במכתבו כי שוקי ההון פגיעים ו"שבריריים". סיכוני הסייבר המגיעים מהבינה המלאכותית, מוסיפים לפגיעויות קיימות במערכת, הסביר. ביילי ציין "הערכות נכסים מתוחות" בשוק הבינה המלאכותית כאחת מהשברירויות הללו. הוא גם הצביע על "היקפי החובות בעסקאות השקעה מעגליות, הנערכות בין חברות בינה מלאכותית לסופרסקיילרים".

עוד התמקד ביילי במכתבו ביכולת של מודלי שפה גדולים לבצע מתקפות סייבר.

לפי ביילי, אחת הסיבות לכך שמודלים אלה מהווים סיכון היא, שמערכות פיננסיות חשובות רבות מחוברות זו לזו. "חברות ההשקעות המובילות בעולם מבצעות עסקאות רבות אחת עם השנייה מדי יום", כתב, "יתרה מזאת, הן עושות זאת לעיתים קרובות באמצעות טכנולוגיה מאותם ספקי צד שלישי. פריצה לספק מרכזי שכזה – עלולה לסכן כמה מוסדות פיננסיים".

ביילי ממליץ למקבלי ההחלטות להתכונן לשיבושים שמשפיעים על כמה מוסדות פיננסיים או ספקיות טכנולוגיה – בו זמנית. הוא גם קרא ליישום תהליכי עבודה שיאפשרו "לשחזר מערכות קריטיות ונתונים מהשרתים, לאחר אירוע סייבר משמעותי".

לפי ביילי, "היכולת של מודלי AI לזהות במהירות פגיעויות תוכנה, תדרוש מהבנקים להוציא תיקונים מהר יותר. זה מאתגר מכמה סיבות. כאשר מתגלה פרצה חדשה, מהנדסים לא צריכים לפתח תיקון אלא גם לבדוק שהוא פועל כמצופה לפני שחרורם. בעבר, עבודות בדיקה ותיקון אלו כללו כמות משמעותית של עבודה ידנית".

"בינה מלאכותית מתקדמת, Frontier AI", כתב, "מציעה הזדמנויות משמעותיות לחיזוק הגנת הסייבר. אך ההתפתחויות האחרונות מדגישות את החשיבות והצורך להבטיח שההתקדמות ביכולות תלווה בחוסן ובמוכנות".

מכתב פומבי

בשבוע שעבר פרסמו יותר מ-100 בנקים, חברות טכנולוגיה וחברות נוספות מכתב פומבי, המזהיר מפני סיכוני הסייבר שבבינה מלאכותית. החותמים כתבו שהם מאמינים, כי תדירות קמפיינים של פריצה מבוססת LLM תגדל משמעותית בחודשים הקרובים. הם קראו לארגונים לחזק את ההגנות שלהם על ידי מתן כלי סייבר מבוססי בינה מלאכותית לצוותי הטכנולוגיה.

"חברות השירותים הפיננסיים וקבוצות טכנולוגיה חייבות להתכונן לתרחישים חמורים יותר, הכוללים שיבוש בו-זמני של כמה חברות שיש להן קשר, או תלות טכנולוגית משותפת". לפי הנגיד הבריטי, "שומרי הסף של המערכת הפיננסית העולמית מודאגים יותר ויותר מהסכנות של מתקפות סייבר מבוססות בינה מלאכותית. חששות אלו התגברו בעקבות סדרת מקרים אחרונים שבהם המודלים המרכזיים שנבדקו על ידי אנת'רופיק ו-OpenAI פרצו לארגונים חיצוניים ויצרו זהויות מזויפות כדי להטעות את מי שמבצעים את הבדיקות".

מומחים הזכירו כי כאשר שי ג'ינפינג, נשיא סין, יבקר בוושינגטון ב-24 בספטמבר, הוא ודונלד טראמפ, נשיא ארה"ב, צפויים לדון בשיתוף פעולה ברגולציה של בינה מלאכותית בין שתי המדינות.