AI אמפתית – כדי שהבינה המלאכותית לא תהפוך לחרב פיפיות

הציפיות ממערכות AI נוסקות מדי שנה לגבהים חדשים הן בקרב חברות שמספקות שירותים והן בקרב הצרכנים הפרטיים והעסקיים. בעקבות הולדתם של סוכני AI נוצרה תחושה ש-AI היא סוג חדש של אינטליגנציה דמוית בני אנוש, שיודעת לזהות בעצמה בעיות של הלקוח  ולפתור אותן בדרך חכמה.

על אף ההתקדמות העצומה חשוב להבין, שמערכות AI אינן אנושיות, ולכן אינן מסוגלות להבין רגשות של בני אדם במצבים דינמיים ומשתנים ובהקשרים שונים, ותגובות חסרות אמפתיה שלהן עלולות לגרום לניכור, תסכול ואי אמון במערכות הללו. זו נקודת כשל קריטית, שעלולה להכשיל חברות שמפעילות מערכות מסוג זה. יתרה מכך, חוקרים בתחום מדעי ההתנהגות סבורים, שהניסיון להלביש באופן מלאכותי שכבת אינטליגנציה רגשית במערכות AI כרוך בסיכון מעורר התנגדות (Reactance בשפה מדעית), שכן המשתמשים חשים במניפולציה ובחוסר כנות. לדוגמה, צרכן שנואש מהניסיונות לשנות מועד טיסה באפליקציה יחוש ממש זעם כשהמערכת תשלח לו הודעה רובוטית מנוכרת שמביעה צער על הניסיון שנכשל.

"AI אמפתית אינה מותרות, אלא כורח עסקי אסטרטגי. בימים שבהם סוכני AI מבצעים עבורנו משימות רבות ומורכבות ובקרוב ינהלו את חיינו, אף עסק לא יכול להרשות לעצמו מערכת שאינה מודעת למצב הרגשי והנפשי של הלקוח, מתעלמת ממנו ואף רומסת אותו"

לאור המגבלות הבסיסיות של מערכות AI להבין רגשות של בני אנוש, גיבשו חוקרים בתחום מדעי ההתנהגות את תפיסת ה-AI האמפתית, שחותרת לגשר על הפער בין אפליקציות AI המבוססות על עיבוד נתונים, חישוב הסתברויות ומדדי יעילות לבין בני האנוש, שרגשותיהם הם מרכיב מרכזי בחיי היום יום שלהם.

AI אמפתית משלבת יכולות לנתח שפה, טון דיבור, כוונות ומדדים נוספים כדי להבין את המצב הרגשי של הלקוחות ולהתייחס אליו באופן הולם בתגובותיו. מערכת מסוג זה כוללת את המרכיבים הבאים: הקשבה ללקוח (Attentive Empathy); סיכום מצב והכרה בבעיות; התייחסות לרגשות (Affective Empathy); שימוש בשפה הולמת ובטון נכון להבעת הזדהות עם מצבים רגשיים שונים, לרבות חרדה, מתח ומצוקה; אמפתיה קוגניטיבית (Cognitive Empathy); פתרון הבעיה באופן המהיר ביותר תוך התייחסות למצב הרגשי והכוונות המשוערות של הלקוח. המערכת חייבת להתייחס להקשר המדויק שבו הלקוח זקוק לסיוע, שכן במצבי קיצון אמפתיה עלולה לגרום לתוצאה הפוכה.

הכרה במגבלות

מרכיב מרכזי בהצלחתה של AI אמפתית הוא ההכרה שלה במגבלותיה. המשתמש חייב כל העת לדעת שהוא מתקשר עם טכנולוגיית AI, ושקיפות זו מאפשרת לבנות יחסי אמון עם המערכת. לכן, במצבים מורכבים וטעונים רגשית המערכת צריכה לנקוט ביוזמתה צעד משמעותי, והוא להודות במגבלותיה ולפנות את הדרך לטיפול של נציג בן אנוש. המעבר צריך להתבצע באופן פרואקטיבי, טבעי וחלק, שיעורר אמון אצל הלקוח.

AI אמפתית אינה מותרות, אלא כורח עסקי אסטרטגי. בימים שבהם סוכני AI מבצעים עבורנו משימות רבות ומורכבות ובקרוב ינהלו את חיינו, אף עסק לא יכול להרשות לעצמו מערכת שאינה מודעת למצב הרגשי והנפשי של הלקוח, מתעלמת ממנו ואף רומסת אותו. מערכת מסוג זה היא ממש חרב פיפיות, שבמקום לשדרג את הביצועים העסקיים עלולה לפגוע בהם. מפתחי אפליקציות צריכים לשלב יסודות ותהליכים של AI אמפתית החל מהשלב הראשון של הפיתוח ולא כתוספת שמודבקת מלמעלה בתום הפיתוח.

עסקים וארגונים שמטמיעים אפליקציות חייבים לוודא שההבנה הרגשית של המערכת היא ברמה הגבוהה ביותר ולא תכשיל אותם בחזית הקיומית שלהם מול הצרכנים. לצורך זה, מומלץ לעסקים לבצע פיילוט של מערכת AI אמפתית ולאסוף נתונים על ביצועיה במדדים של שביעות רצון לקוחות, משך זמן הטיפול, שיעור המרה והשפעת כל אלה על ההכנסות והרווחיות. כך יכולה ה-AI האמפתית להפוך למנוע הצמיחה של העסק ולבעלת הבנה של רגשות, על אף שהיא נטולת רגשות לחלוטין.

הכותבת היא מייסדת ומנהלת השלוחה הישראלית של חברת שירותי הטכנולוגיה הגלובלית קונסנטריקס (Concentrix).