סוכן AI הוא לא עובד: יש להתייחס אליו כאל ספק חיצוני

בשנים האחרונות סוכני בינה מלאכותית הפכו מכלי ניסיוני ליישות תפעולית אמיתית: הם כותבים קוד, מבצעים ניתוחים, שולחים מיילים, מפעילים מערכות ואף מבצעים פעולות פיננסיות. בארגונים רבים מתפתחת נטייה טבעית להתייחס אליהם כאל "עובדים דיגיטליים" – חברי צוות נוספים שמקבלים משימות ופועלים לטובת הארגון. אבל זו טעות תפישתית מסוכנת. סוכני AI אינם עובדים של החברה. יש להתייחס אליהם כאל נותני שירות חיצוניים – עם כל המשמעויות המשפטיות, התפעוליות והאבטחתיות הנובעות מכך.

"אם נתייחס לסוכן כעובד, נניח שהוא מבין הקשר וכוונה. אם נתייחס אליו כספק חיצוני, נבנה סביבו שכבת בקרה דטרמיניסטית שתוודא שכל פעולה מותרת במפורש ומאומתת הקשר

עובד הוא ישות שנמצאת בתוך מעטפת של נאמנות ארגונית, מחויבות חוזית, היררכיה ניהולית ותרבות ארגונית. ניתן להכשיר אותו, להטמיע בו נהלים, להטיל עליו אחריות ואף לפטר אותו. סוכן בינה מלאכותית, לעומת זאת, הוא מערכת תוכנה הפועלת על בסיס מודל סטטיסטי, שלעיתים קרובות נשענת על תשתיות ענן חיצוניות, מתעדכנת תדיר ולעיתים אף נשלטת או מתוחזקת על ידי צד שלישי. אין לו נאמנות, אין לו הבנה מוסרית, ואין לו אחריות משפטית. הוא מבצע חישוב הסתברותי – לא שיקול דעת אנושי.

מתרבה השימוש בהם ולצד התועלות נחשפים גם הסיכונים. סוכני ה-AI. צילום: ShutterStock

מודל Zero Trust – רלוונטי שבעתיים כשמדובר בסוכן אוטונומי

כאשר ארגון מתייחס לסוכן כאל "עובד", הוא נוטה להעניק לו הרשאות רחבות מדי: גישה ל-CRM, למערכות כספיות, למסדי נתונים רגישים או לכלי DevOps. אך אם נחשוב עליו כעל ספק חיצוני – התמונה משתנה מיד. ספק חיצוני מקבל גישה מצומצמת ומבוקרת, תחת עקרון ה-Least privilege. כל פעולה שלו מתועדת. כל חריגה נבדקת. ההרשאות שלו מופרדות לוגית ולעיתים גם פיזית. זהו מודל Zero Trust קלאסי – והוא רלוונטי שבעתיים כאשר מדובר בסוכן אוטונומי.

מעבר לכך, סוכנים חשופים לסיכונים ייחודיים: Prompt injection, מניפולציות קלט, שימוש לרעה בכלים מחוברים (Tool abuse), או "Confused deputy" – מצב שבו הסוכן פועל בשם משתמש מורשה, אך מבצע פעולה שלא הייתה אמורה להתבצע בהקשר הנתון.

אם נתייחס לסוכן כעובד, נניח שהוא מבין הקשר וכוונה. אם נתייחס אליו כספק חיצוני, נבנה סביבו שכבת בקרה דטרמיניסטית שתוודא שכל פעולה מותרת במפורש ומאומתת הקשר.

יש גם היבט משפטי מהותי. כאשר עובד טועה – קיימת אחריות אישית ומשמעתית, לצד אחריות הארגון. כאשר סוכן טועה, האחריות כולה נשארת אצל הארגון. לכן יש להחיל על סוכנים מנגנוני ביקורת, Audit Trail מלא, סיווג סיכונים ואפילו מנגנון Human-in-the-Loop בפעולות רגישות. בדיוק כפי שעושים מול ספקים פיננסיים, קבלני משנה או שירותי ענן.

השלכות משפטיות משמעותיות

בהיבט המשפטי הרחב יותר, ההתייחסות לסוכן כספק חיצוני מאפשרת להחיל עליו עקרונות מוכרים של ניהול צד שלישי (Third-Party Risk Management). המשמעות היא הגדרת גבולות אחריות, ניהול חוזי שימוש במודל או בפלטפורמה, והחלת דרישות רגולטוריות כגון שמירה על פרטיות, אבטחת מידע וציות לחוקי הגנת נתונים. בעולם הפיננסי, למשל, רגולטורים כבר מצפים מארגונים לנהל ספקים טכנולוגיים תחת מנגנוני ביקורת, סיווג סיכונים ובקרות גישה.

כאשר סוכן AI מפעיל מערכת פיננסית, מבצע החלטה עסקית, או מתקשר עם לקוח – מבחינה משפטית הוא למעשה חלק משרשרת השירות של הארגון. לכן עליו להיות כפוף לאותם מנגנוני בקרה החלים על ספקים חיצוניים: הסכמי שימוש, מדיניות אחריות, ניטור פעילות ותיעוד מלא של החלטות ופעולות.

ההבחנה הזו משנה גם את השיח הניהולי. במקום לשאול "כמה עובדים דיגיטליים יש לנו?", נכון יותר לשאול: אילו שירותים אוטונומיים אנו צורכים? מי הספק שלהם? מה גבולות האחריות? אילו SLA חלים? אילו רגולציות רלוונטיות? כאשר סוכן מבצע פעולה פיננסית, רגולטורית או תפעולית – הוא למעשה מפעיל תהליך עסקי. תהליך כזה חייב להיות כפוף למדיניות, הרשאות ובקרות – לא לאמון עיוור ביכולות מודל.

הגישה הזו אינה מבטלת את הערך העצום של סוכני AI. להפך – היא מאפשרת להם לפעול בהיקף רחב יותר ובסקייל גבוה יותר, משום שהסיכון מנוהל. ארגונים שיבנו שכבת Governance חיצונית ולא-אג'נטית, שתפקח על גישת הסוכן לכלים ולנתונים, יוכלו לאמץ אוטומציה מתקדמת מבלי להמר על ביטחון המידע והציות הרגולטורי.

בעידן שבו סוכנים אוטונומיים מתחילים לנהל רכש, לתקשר עם לקוחות ואף להניע כספים, השאלה איננה אם לסמוך עליהם – אלא כיצד למסגר את האמון. והמסגור הנכון הוא פשוט: סוכן בינה מלאכותית אינו עובד. הוא נותן שירות חיצוני עם הרשאות מוגבלות, תחת פיקוח מתמיד. ארגון שיבין זאת מוקדם – יוכל ליהנות ממהפכת הסוכנים בלי לשלם את מחיריה.

הכותב הוא מנהל מוצר ראשי בפיוניר ישראל וחוקר באקדמיה