אבטחת סוכנים

המקרה של Grok ו-Bankrbot ממחיש בעיה מרכזית: סוכני AI שמקבלים הרשאות לפעול במערכות אמיתיות ● מידע ממקור חיצוני המשפיע על החלטות הסוכן עלול להיתפש כהוראה מוסמכת במערכות פיננסיות, עם תג מחיר של כסף אמיתי