כשה־AI מפסיקה להציע ומתחילה לבצע: שיחת ההרשאות החדשה

יש הבדל בין לבקש מ-AI לנסח הודעה ללקוח לבין לאפשר לה לשלוח אותה. בין להציע עדכון במערכת לבין לבצע אותו. בניסוח זו תוספת של מילה אחת; בניהול זו כבר שיחה אחרת.

כשסוכן AI מחובר למערכות ומסוגל לפעול, לא מספיק לשאול אם התשובה שלו נכונה. צריך להבין גם מה הוא רשאי לעשות בעקבותיה. הדגמה יכולה להיראות תהליך חלק ומהיר. לעומת זאת, העבודה הארגונית כוללת גם חריגים, מידע חלקי והחלטות שלא כדאי לבצע אוטומטית.

ניקח תרחיש דמיוני: סוכן מסייע בטיפול בפניית לקוח על חיוב. הוא מאתר את החשבונית, בודק את פרטי ההתקשרות ומכין מענה. האם הוא יכול גם לעדכן את פרטי הלקוח? לאשר זיכוי? לשלוח התחייבות בשם החברה? אלה אינן גרסאות שונות של אותה יכולת. כל פעולה מחייבת גבולות מתאימים.

כמה שאלות שחייבות להישאל

יש בהקשר זה כמה שאלות נחוצות:

לאיזה מידע הסוכן יכול לגשת? מידע שנחוץ כדי להבין פנייה אינו בהכרח כל המידע שנמצא בכרטיס הלקוח. כדאי להגדיר גישה לפי המשימה ולא לפתוח הרשאות רחבות רק כדי לפשט את החיבור.

אילו פעולות מותר לו לבצע? קריאה, המלצה, עדכון ושליחה הן סמכויות שונות. ההבחנה ביניהן מאפשרת להרחיב שימוש באופן מדורג, בלי להפוך כל חיבור למערכת להרשאה לפעול בתוכה ללא הגבלה.

מתי הוא חייב לעצור ולפנות לאדם? לא די לכתוב "אישור אנושי לפי הצורך". צריך להגדיר מה מחייב אישור, מי מקבל את הבקשה ומה קורה כשאין מענה. לצד זה, חשוב שאפשר יהיה לעקוב אחרי הפעולות, ולהבין מה בוצע ועל בסיס איזה מידע.

המטרה היא לא להוסיף אישור ידני לכל צעד. להיפך, גבולות ברורים מאפשרים לזהות היכן אפשר לתת לסוכן לפעול ואיפה נדרש שיקול דעת אנושי. זו שיחה משותפת לבעלי התהליך העסקי, לטכנולוגיה ולאבטחת המידע – לא רק הגדרה שמסמנים במסך ההתקנה.

שיחת ההרשאות היא דוגמה אחת להחלטות שנפתחות כשהטכנולוגיה מקבלת יכולת לפעול. אם השאלות האלה כבר מגיעות לשולחן שלכם, אנחנו, באקספריס, מזמינים אתכם להמשיך את הדיון במפגש From Ambition to Impact, שיתקיים, בשיתוף מועדון C3 של אנשים ומחשבים, ביום ה', ה-19 בנובמבר, בריברסייד בתל אביב. ניפגש עם מנמ"רים ומובילי טכנולוגיה לשיחה על AI, סייבר והמציאות הארגונית שבה הם פוגשים זה את זה. הצטרפו אלינו כדי לשאול, לשתף ולשמוע נקודות מבט נוספות.

לפרטים נוספים ולהרשמה לאירוע לחצו כאן.