"ה-AI לא תחליף מערכות IT בבריאות; חייבים לבדוק את מהימנות המידע"

"במערכת הבריאות הישראלית, הבינה המלאכותית לא תחליף, בשלב זה, מערכות מידע אחרות. היא תקצר תהליכים, אך תמיד יהיה צורך בעין אנושית שתבדוק את מהימנות המידע", כך אמרה הדס קגן, מנהלת מחלקת הדיגיטל בשירותי בריאות כללית.

קגן השתתפה במפגש של פורום eGov מבית אנשים ומחשבים, שנערך לפני ימים אחדים במלון אוריינט בירושלים, בשיתוף קבוצת אמן, ועסק ביישומי בינה מלאכותית בממשלה ובמגזר הציבורי.

בדבריה הציגה קגן את האתגרים שעומדים בפני הכללית בהטמעת בינה מלאכותית ואת תהליכי הטרנספורמציה הדיגיטלית בארגון הבריאות הגדול במדינה, שיש לו 5.2 מיליון לקוחות ו-2,000 מרפאות בקהילה. "כל אלה מייצרים כמויות עצומות של טרנזאקציות ומפגשים עם מטופלים בנכסים הדיגיטליים של הארגון, הכוללים, בין היתר, אתרים ואפליקציות שמאפשרים לבצע פעולות, 14 אתרי מידע לבתי החולים של הכללית ואתר ראשי של הקופה, שהוא אחד הנצפים בארץ", ציינה. לדבריה, "האתגר המרכזי הוא ליצור שער כניסה אחד, שיאפשר ללקוח גישה מרוכזת ונוחה לכל המידע והשירותים".

הפתרון: לא לחכות לפתרון מושלם

"ברמה הכללית, התפיסה אצלנו היא שאין לחכות לפתרון מושלם", אמרה קגן. היא ציינה כי "אנחנו צריכים כל העת לשמור על אמינות קלינית. לכן, מוטלת עלינו החובה לגבות את השימוש ב-AI בעין אנושית בוחנת, ואסור להסתמך על התוצרים שלה". לדבריה, "בכללית, השימוש בבינה מלאכותית נעשה במערכות סגורות פנימיות. הארגון מגדיר בעצמו את הרגולציה ואת המעקות (Guardrails) שלו, וכל העובדים והמנהלים מתיישרים לפי זה".

קגן הביאה דוגמה ליישום AI שמוטמע בכללית: "זיהינו בעיה בניווט של המשתמשים באפליקציה, שהביאה לנטישת לקוחות. הפתרון שנמצא הוא הטמעת צ'ט בשפה חופשית, שמאפשר ללקוח לבקש פעולות כמו חידוש מרשם, והבוט מנווט אותו ישירות לדף הרלוונטי".

כמו כן, היא ציינה שהכללית העבירה את כל האתרים והאפליקציות שלה לתשתית אחודה, שמאפשרת חיפוש חכם בשפה חופשית ומתן מידע אמין. הפרויקט נעשה בשיתוף קבוצת אמן.

לסיכום שיתפה קגן שתי תובנות שנלמדו בשירותי בריאות כללית מפרויקטי הטמעת הבינה המלאכותית שביצעו שם עד כה: "התובנה הראשונה היא – אל תזלזלו בשינוי הארגוני, תנהלו אותו. התובנה השנייה קשורה לאמינות המידע – אל תסמכו על ה-AI ואל תשאירו אותה בלי בקרה. תמיד צריך להיות בן אדם בתמונה".