משילות AI בממשלה: איך מנהלים התממשות של נבואה מקראית?

בפרשת "בהעלותך" בספר במדבר מסופר על הנער שמתלונן בפני משה על אלדד ומידד ש"מעזים" להתנבא במחנה. משה מסרב לעצת יהושע בן נון לכלוא את השניים, וקובע כלל אלמותי: "מי ייתן וכל עם ה' יהיו נביאים". במונחים של היום, משה עשה "דמוקרטיזציה" של הנבואה. הוא קיווה לבזר את מוקדי ההשפעה והכוח מההנהגה אל העם. נראה שקביעתו הפכה לנבואה בפני עצמה, המתממשת כיום בעוצמות חסרות תקדים.

שני וקטורים של מהפכה

בתקופה האחרונה, אנחנו עדים לשני וקטורים אשר מעצימים באופן דרמטי את היכולת של עובדים בצד העסקי של ארגונים:

ידידותיות השימוש: כלים מבוססי AI מאפשרים כיום למשתמשים בצד העסקי, באופן "דמוקרטי" וללא כל ידע טכני, לפתח אפליקציות ולשלב בינה מלאכותית בתהליכים התפעוליים באופן עצמאי, ועם תלות נמוכה עד לא קיימת באגפי הטכנולוגיה.

ארכיטקטורות דאטה חדשניות: כאשר הדאטה "כלואה" במערכות התפעוליות, ארכיטקטורות הדאטה העדכניות, המבוססות על גישה מבוזרת, שואפות לשבור את ה"כלובים" ולייצר את שכבת הדאטה הארגונית. הן שואפות להנגיש את המידע לכולם (שכבת ה-Data Fabric) ולאפשר לגורמים עסקיים לייצר "מוצרי דאטה" (שכבת ה-Data Mesh), ומוצרים המשלבים בינה מלאכותית (שכבת ה-AI Mesh), תוך החצנתם באופן דמוקרטי לאקוסיסטם הארגוני. מוצרים בשכבת ה-AI  Mash מעצימים את יכולות העובדים בצד העסקי, וצפויים אף להעשיר באופן מעגלי את שכבת הדאטה עצמה. ומכאן, לטעמי, צפויה לנבוע העוצמה המרכזית של בינה מלאכותית. יתר על כן, אינטגרציה של כלי AI בשכבת הדאטה תמנע תופעות בלתי רצויות כגון "הזיות".

וכאן עולה סוגיית המשילות, הן בהיבטי הדאטה והן בהיבטי ה-AI, במלוא עוצמתה. העוצמה המוקנית לגורמים העסקיים מייצרת מכפילי כוח אדירים לארגון, אך היא טומנת בחובה גם פוטנציאל נזק משמעותי.

הדילמה של המגזר הציבורי

האתגר הזה מקבל משנה תוקף במגזר הציבורי. בניגוד למגזר הפרטי, ארגונים ציבוריים מחזיקים בנאמנות במשאבי הדאטה הלאומיים ואמונים על שירותים חיוניים ובלעדיים לתושב. טעות בחשיפת דאטה במגזר הציבורי, בעקבות משילות דאטה לא נאותה, עלולה להביא לפגיעה רחבת היקף בפרטיותם של תושבים. יתר על כן, טעויות של מודל AI במערכות רווחה, בריאות או שיטור עלולות לפגוע בזכויות אדם ובחיי אדם. כמו כן, המגזר הציבורי פועל תחת כללי מנהל תקין נוקשים, שבהם "הכל אסור חוץ ממה שמותר" ואינם מאפשרים את הגמישות של "לנוע מהר ולשבור דברים" המקובלת בהיי-טק. וכך ראוי.

חשוב לחדד שהאתגר אינו נובע מכך שבקצה כל תהליך עסקי, דיגיטלי או פיזי, תשב מכונה במקום בן אדם, אלא שהיחס בין הבינה האנושית לבין הבינה המלאכותית הארגוניות משתנה דרמטית. כשהיחס משתנה דרמטית, נשאלת השאלה: איך מנהלים באופן אחראי את השינוי?

הפתרון: משילות דו-שלבית

בעיניי, נכון לחלק את ניהול הסיכון לשתי תקופות, בהתאם לבשלות הארגונית (Data & AI Maturity):

שלב א': תקופת המעבר – "ברקס" ליד ה"גז": בתקופה הנוכחית, רצוי למנות גורם אנושי בכיר שיהיה אמון על משילות ה-AI. גורם זה צריך להיות "מאפשר", המתפקד כברקס קרוב לדוושת הגז, וכן בזיקה ארגונית צמודה לשכבת הדאטה הארגונית. לכן, כברירת מחדל, לטעמי הגורם המתאים להוביל את משילות ה-AI הארגונית הוא ה-CDO. תפקידיו בהיבטי משילות AI הם לגבש את תפיסת ההפעלה מול גורמי המפתח של הארגון (CISO, DPO, משפטית, Finops ועוד) על מנת לייצר סביבות מחשוביות בטוחות, תוך שילוב אמצעי הגנה על הפרטיות ועל זכויות ואינטרסים נוספים, ולוודא שהחדשנות שצפויה להיווצר בשכבת ה-AI Mash לא באה על חשבון הבטיחות והאחריות הציבורית.

שלב ב': העתיד – מכונות המפקחות על מכונות: ככל ששכבת ה-AI Mash תבשיל באופן דיפוזי לגורמים העסקיים, לא נוכל עוד להסתמך רק על פיקוח אנושי. לפיכך, ייתכן שהקונספט של אדם בתהליך הוא זמני (Human in the loop/in control). לכן, לצד "מעקות הבטיחות" המוטמעים במודלי וכלי AI נפוצים, נצטרך לעבור למודל של מכונות המפקחות על מכונות. לכן עלינו לבסס כבר היום את תשתיות הידע שיאפשרו לנו בקרוב להפעיל כלי AI "רגולטוריים פנימיים", שיפקחו בזמן אמת על המערכות בייצור.

לאחר שניסיתי להיאחז בשולי גלימתו של משה רבנו, עמוד התווך של הנבואה, אציין שזה מעניין לכתוב דעה שסביר לשער שלא תהיה רלוונטית מחר בבוקר.

הכותב הוא מנהל אגף אסטרטגיה ומדיניות ביחידת הדאטה וה-AI במערך הדיגיטל הלאומי.