הרשאות ובקרה לסוכני AI בארגון: מה שצריך לדעת

במשך שנים התבססה הארכיטקטורה הארגונית על חלוקה ברורה בין עובדים למערכות תוכנה – עובדים נכנסו למערכות באמצעות זהות אישית, ושירותים ממוחשבים פעלו באמצעות חשבונות מערכת. מנהלי מערכות המידע ידעו מי יזם כל פעולה ואיפה נשמר התיעוד שלה. 

כניסתם של סוכני הבינה המלאכותית משנה את המודל הזה. בניגוד לצ'טבוט שמחזיר תשובה לשאלה, סוכן AI מסוגל לקבל משימה ולפרק אותה לשלבים. את הכלים והמערכות החיצוניות שבהן ישתמש הוא בוחר בעצמו. הוא מעבד מידע ומקבל החלטות. למשל, סוכן AI שקיבל תיק בקשת אשראי, יכול לאתר את מסמכי ההכנסה הרלוונטיים במערכת ניהול המסמכים ולהצליב אותם עם הנתונים במערכת הליבה.

כל סוכן AI הפועל בסביבה ארגונית צריך לקבל זהות דיגיטלית ייחודית. הדרך הקלה היא להפעיל אותו באמצעות ההרשאות של העובד, אבל זו בחירה שפוגעת בדיוק ביכולת להבחין מי ביצע כל פעולה

שינוי במודל ההפעלה 

מערכות ניהול הזהויות וההרשאות הקיימות נבנו עבור עובדים ועבור שירותי תוכנה בעלי תפקיד מוגדר. סוכן AI פועל במודל מורכב יותר. הוא יכול לקבל משימה מעובד ולפעול מול כמה מערכות במהלך ביצועה. 

כאשר הסוכן משתמש בהרשאות של העובד שהפעיל אותו, קשה להבחין בין פעולות שביצע העובד בעצמו לבין פעולות שהסוכן יזם. הענקת חשבון שירות בעל הרשאות רחבות יוצרת סיכון, משום שהסוכן עלול לבצע פעולות החורגות מהסמכות שנועדה לו. אם כמה סוכנים חולקים זהות טכנית אחת, יכולת המעקב אחר פעילותם נפגעת. 

כל סוכן AI הפועל בסביבה ארגונית צריך לקבל זהות דיגיטלית ייחודית. הדרך הקלה היא להפעיל אותו באמצעות ההרשאות של העובד, אבל זו בחירה שפוגעת בדיוק ביכולת להבחין מי ביצע כל פעולה. זהות נפרדת מאפשרת גם לשלול מהסוכן גישה בלי לפגוע בהרשאות של העובד. 

גם מחזור החיים של הזהות דורש ניהול. הבעלים העסקי מאשר את הקמת הסוכן ומגדיר את מטרותיו, ואילו מנהל האבטחה אחראי לבחינת ההרשאות ולביקורת תקופתית. עם סיום השימוש בסוכן, הגישה שלו למערכות מתבטלת.

צריך להגדיר מראש מי אחראי לגבולות הפעולה שלהם. סוכני ה-AI. צילום: עיבוד ממוחשב - ChatGPT. מקור: Shutterstock AI, bixstock, Shuttertock

מה רשאי הסוכן לעשות באמצע משימה?

 ניהול זהויות הוא חלק אחד ממדיניות ההרשאות. הרשאה שניתנת למשימה מסוימת יכולה לשמש לרצף פעולות שהארגון לא הגדיר מראש. 

סוכן AI שמורשה לקרוא נתונים במערכת אשראי ולעדכן פרטי בקשה יכול לגלות במהלך הבדיקה שחסר מסמך הכנסה ולפנות לשירות חיצוני. הנתונים שיחזרו משם עלולים לחייב עדכון בפרטי הבקשה. במצב כזה מתעוררת שאלת גבולות הסמכות שלו. עדכון נתונים במערכת הליבה משפיע על המשך הטיפול בבקשה, ולכן התנאים לביצועו צריכים להיות מוגדרים מראש. 

מודל ההרשאות מתחשב בהקשר הפעולה. הארגון בוחן את זהות הסוכן ואת מטרת המשימה. קריאת נתונים ועדכון נתונים נושאים רמות סיכון שונות, וההרשאות שלהן צריכות להיות שונות. 

רמת האוטונומיה נקבעת בהתאם לרמת הסיכון. סוכן יכול לקבל הרשאה לאיסוף מסמכים ולבדיקת שלמותם, ולהכין המלצה שתועבר לעובד מוסמך. פעולות בעלות השלכות כספיות או רגולטוריות יישארו כפופות לאישור אנושי. הרשאות הדוקות מדי מבטלות את הסיבה שבגללה מכניסים סוכן לארגון מלכתחילה. 

אישור אנושי שבו העובד רק לוחץ על "אשר" בלי לבדוק את הנתונים הוא אישור פורמלי בלבד. כדי שהאישור יהיה אמיתי, העובד צריך לראות את הנתונים שעליהם הסוכן מתבסס ולהחליט בעצמו. 

כשהסוכן פועל, מי מפקח עליו? 

כאשר סוכן AI מפעיל כמה מערכות ונעזר במודלים שונים, רישום כניסה רגיל מתעד רק את עצם הכניסה של הסוכן. אם סוכן עדכן פרט בבקשת אשראי אחרי פנייה לשירות חיצוני, היומן יציג עדכון אחד בחשבון הסוכן. את הנתון שהוביל אליו הוא לא ישמור. התיעוד צריך להראות מי הפעיל את המשימה ומה הסוכן ביצע בפועל, כדי לשחזר את רצף העבודה במקרה של תקלה. 

שכבת הניטור והבקרה מתחברת למערכות הארגון ומספקת תמונה של פעילות הסוכנים. היא מזהה גישה למידע שאינו נדרש לביצוע המשימה ומסמנת חריגות בהרשאות ובשימוש בממשקים. מנגנון נוסף מאפשר לעצור את פעילות הסוכן בזמן אמת ולבטל את הרשאותיו במקרה הצורך. 

הגורם הטכנולוגי שמתחזק את הסוכן אחראי לאבטחתו ולאופן הפעלתו. העובדה שפעולה בוצעה באמצעות מערכת אוטונומית אינה משנה את האחריות של הארגון כלפי לקוחותיו. 

תיעוד מלא גובה מחיר: הוא מאט את התהליך ומגדיל את עלויות האחסון. אבל אין מה לעשות, זה מחיר ראוי בכל פעולה שמשפיעה על החלטת אשראי, כי בלי שחזור אי אפשר לדעת מה קרה. 

הכותב הוא יועץ טכנולוגי לארגונים בעיקר בתחום האשראי החוץ בנקאי ובעברו מנמ"ר