חשבון ה-AI שמגיע כשאף אחד לא שאל מי מאשר

כשאלפי עובדים מקבלים גישה חופשית לכלי AI ואף אחד בארגון לא הגדיר מי מאשר, מי מגביל ומי בכלל רואה את המונה, החשבון בסוף החודש הוא רק הסימפטום

אמיר עוז, יועץ טכנולוגי לארגונים, בעיקר בתחום האשראי החוץ בנקאי.

מי שעדיין לא שמע על חשבון 500 מיליון הדולר שקיבלה חברה אנונימית מאנת'רופיק, כנראה לא עקב אחרי הפיד הטכנולוגי בשבועות האחרונים. הידיעה התפרסמה ב-Axios ומאז עושה סיבובים בכל כנס וכל קבוצת ווטסאפ של אנשי טכנולוגיה. חברה גדולה. חודש אחד. שימוש לא מוגבל של עובדים במודל קלוד (Claude). חשבון שנראה כמו טעות הקלדה.

 זו לא הייתה טעות הקלדה

מה שמעניין אותי בסיפור הזה הוא לא הסכום, גם אם הוא עושה רושם. מה שמעניין אותי הוא השאלה שאיש לא שאל לפני שהגישה ניתנה: מי בארגון הזה החליט שהעובדים יקבלו גישה, ומה הייתה הסמכות שלו לעשות את זה?

זו בדיוק הפוזיציה של המנמ"ר בתוך הדיון הזה. לא להחליט אם AI כן או לא – זה כבר הוחלט! – אלא לבנות את שכבת הממשל שמאפשרת לארגון להשתמש בכלים האלה בלי שחשבון אחד יפיל רבעון שלם

כי התשובה, ברוב הארגונים שאני מכיר, היא שאיש לא החליט באמת. מישהו ביצע רכישה. מישהו אחר פרס את הכלי. ומישהו שלישי, בדרך כלל מהצד הטכני, הגדיר את הרשאות הגישה לפי ההיגיון הפשוט, שאם אנחנו משלמים על זה, למה לא לאפשר לכולם להשתמש. 

זו לא רשלנות. זו בעיית ממשל. 

כשהעלות מגיעה בלי אזהרה

כדי להבין למה הגעה לסכום של 500 מיליון דולר אפשרית בתוך חודש יחיד בלבד, צריך לזכור דבר אחד על מודלי שפה גדולים: הם מתומחרים לפי טוקנים. כל מה שנשלח למודל וכל מה שהוא מחזיר עולה כסף, ובשאלות קצרות הסכומים נראים אפסיים. הבעיה מתחילה כשהשימוש הופך לסיסטמי. 

עובד שמעלה קובץ Word בן 80 עמודים לניתוח, ועושה את זה עשר פעמים ביום לגרסאות שונות של אותו מסמך, לא חושב שהוא מפעיל עלות חריגה. הוא פשוט עובד. עובד אחר שמריץ תהליך אוטומטי שקורא ל-API כל כמה דקות לאורך יום שלם, לא בודק את המונה. הוא פתר בעיה טכנית. כפול אלפי עובדים, כפול חודש שלם, בלי שום מנגנון שמתריע כשהצבר חוצה סף כלשהו – ומקבלים חשבון שאף מנהל כספים לא ציפה לו. 

הנקודה שפחות מדברים עליה: ספקיות ה-AI לא תמיד שולחות התרעה בזמן אמת. חלקן מציעות את זה כאופציה שצריך להפעיל. מי הפעיל? בדרך כלל אף אחד, כי אף אחד לא חשב שזה רלוונטי. 

שאלת הממשל שהחשבון מציף 

מנמ"ר שקורא את הסיפור הזה ורואה בו בעיה טכנית של הגדרת rate limits מחמיץ את הנקודה. ה-rate limits הם פתרון. הבעיה היא שהארגון לא בנה תהליך שמחייב לשאול כמה שאלות יסוד לפני שפורסים כלי AI לאוכלוסיה רחבה. 

מי מאשר את הפריסה? זו אינה החלטה של מחלקת ה-IT בלבד. הטמעת כלי בינה מלאכותית בהיקף ארגוני היא החלטה עסקית בעלת השלכות תקציביות משמעותיות, ולכן גם הגורם הפיננסי בארגון צריך להיות שותף לתהליך האישור. לא כדי לעכב או להקשות, אלא על מנת לוודא שיש מי שמבין את המשמעויות הכלכליות של ההחלטה, ויש מי שיכול להצדיק אותה בעת הצורך ולשאת באחריות לה. 

מי מגדיר תקרת שימוש לצוות? לא לארגון כולו, לכל צוות בנפרד לפי השימוש הצפוי שלו. פיתוח שמריץ תהליכי אוטומציה יצרוך אחרת ממשאבי אנוש, שמשתמשים בכלי לניסוח מסמכים. תקרה אחת לכולם היא לא ניהול, זו הימנעות מניהול. 

מי רואה את הצריכה בזמן אמת? שאלה שנשמעת טכנית, אבל היא ניהולית לחלוטין. אם אין גורם שרואה את הנתון הזה לפחות שבועית ומבין את המשמעות שלו – הפיקוח קיים על הנייר בלבד.

השימוש בו יצר חשבונית עתק בסוף החודש. קלוד.

השימוש בו יצר חשבונית עתק בסוף החודש. קלוד. צילום: Shutterstock

 

מה שבאמת משתנה עכשיו 

הסיפור על 500 המיליון לא יגרום לארגונים להפסיק להשתמש ב-AI. זה לא הלקח שאנשים לוקחים ממנו. הלקח הוא שכלי AI בהיקף ארגוני כבר מזמן לא שייכים לתחום ה"ניסוי". הם תשתית, ותשתית מנהלים אחרת. 

ספקי ענן וספקי AI מוסיפים בשנה האחרונה יותר כלים לניהול עלויות, dashboards לניטור שימוש, מנגנוני התרעה, אפשרויות לניתוב אוטומטי של משימות פשוטות למודלים זולים יותר. הכלים קיימים. השאלה היא מי בארגון אחראי להפעיל אותם ולהסתכל בהם. 

זו בדיוק הפוזיציה של המנמ"ר בתוך הדיון הזה. לא להחליט אם AI כן או לא – זה כבר הוחלט! – אלא לבנות את שכבת הממשל שמאפשרת לארגון להשתמש בכלים האלה בלי שחשבון אחד יפיל רבעון שלם. 

500 מיליון דולר זה מספר שקל לדחות כמקרה קיצוני. אבל השאלה שהסיפור מציף לגבי כל ארגון שפורס AI בקנה מידה: כמה עולה החודש הזה ומי יודע את התשובה בזמן אמת? – היא שאלה שרוב המנמ"רים שאני מכיר עדיין לא יכולים לענות עליה בביטחון מלא. 

הכותב הוא יועץ טכנולוגי לארגונים בעיקר בתחום האשראי החוץ בנקאי ובעברו מנמ"ר

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים