אמיר עוז

מתקפת כופר לא חייבת להישען על אדם שמקבל החלטות מול המחשב; AI יכולה לקבל מטרה, לחפש את הדרך אליה, להתמודד עם כישלונות ולהמשיך לפעול - והמשמעות עבור ארגונים פיננסיים עשויה להיות גדולה מעוד חולשת סייבר

המקרה של Grok ו-Bankrbot ממחיש בעיה מרכזית: סוכני AI שמקבלים הרשאות לפעול במערכות אמיתיות ● מידע ממקור חיצוני המשפיע על החלטות הסוכן עלול להיתפש כהוראה מוסמכת במערכות פיננסיות, עם תג מחיר של כסף אמיתי

בתוך ההתלהבות מהטמעת בינה מלאכותית, קל לשכוח את הבסיס: איכות הנתונים ● כשמידע חלקי או לא אמין, גם מערכת מרשימה עלולה להגיע למסקנה שגויה - ולהציג אותה בביטחון מלא

ההכרזה האחרונה של OpenAI היא לא סיפור על חומרה, אלא על שינוי עמוק הרבה יותר במאזן הכוחות של הינה המלאכותית

בעוד שהשיח הציבורי תקוע בשאלה איך לכתוב פרומפט, חברות טכנולוגיה מאמצות את ה-Loop Engineering ● הבינה המלאכותית כבר אינה רק כלי המשיב לשאלה, אלא היא עובד זוטר בתהליך עבודה, המתמקד בתוצאות הבאות

במשך שנים הוצגו מאגרי הנתונים כהבטחה הגדולה של עולם הפיננסים ● בנקים וגופים פיננסיים השקיעו הון בתשתיות מידע, אך לעיתים קרובות הפער בין החזון למציאות התגלה כגדול במיוחד

כשאלפי עובדים מקבלים גישה חופשית לכלי AI ואף אחד בארגון לא הגדיר מי מאשר, מי מגביל ומי בכלל רואה את המונה, החשבון בסוף החודש הוא רק הסימפטום

כולם קנו רישיונות, שלחו לסדנאות ומינו מנהל AI, אבל כשמסתכלים על מה שה-AI באמת רואה, עושה ומשנה בתוך הארגון, מתברר שרוב החברות עדיין תקועות ברמה הראשונה ● אן מיוּרה-קוּ מסבירה למה, ומה עושים עם זה