Indirect Prompt Injection

סוכני AI כבר פועלים במערכות חיצוניות ומבצעים פעולות עצמאיות ● ד"ר סתיו אלבר: ככל שמרחיבים את ההרשאות, כך נדרשים יותר גבולות, פיקוח ואישור אנושי

בשונה מה-AI היוצרת שרק מספקת תשובה והאדם מחליט מה לעשות עם התשובה, הסוכן לא רק עונה, אלא גם פועל - מקבל מטרה ומשיג אותה בעצמו, ומנקודת המבט של אבטחה, ההבדל הזה הוא קריטי