השאלה שכל מנהל כספים שואל את המנמ"ר: מה קיבלנו בתמורה להשקעה ב-AI?

בינה מלאכותית הולכת ותופסת מקום של כבוד בספרי התקציב בארגונים, בין אם זה תשלום עבור טוקנים בשימוש עובדים ובין אם מדובר בפיתוח ויישום מערכות AI שמחליפות תהליכים, מבצעות פעולות שיווק או שירות לקוחות ומסייעות בקבלת תובנות עסקיות.

הנהלות ודירקטוריונים בהכוונת מנמ"רים לוחצים על סמנכ"לי הכספים לאשר תקציבים, להאיץ אימוץ פתרונות ולהשקיע בטכנולוגיות החדשות ביותר. אולם ככל שההתלהבות הראשונית שוקעת, הטון בחדרי הישיבות משתנה, ועולה השאלה: מה קיבלנו בתמורה להשקעות? ייתכן שהתשובה חיובית, אך הטרגדיה היא, שרוב הארגונים כיום לא מסוגלים לענות על השאלה.

"שיוך עלויות (Cost Allocation & Attribution) הוא התשתית ההכרחית והתנאי המקדים למדידת ROI. ללא תשתית שיוך מדויקת הארגון נמצא בעיוורון"

מודל המדידה של אימוץ הענן

כשחברות עברו לענן בעשור וחצי האחרונים, סמנכ"לי הכספים ביקשו לקבל מענה לשאלה כיצד למדוד את היעילות והחזר ההשקעה של הענן. הפתרון שנמצא אז ונכנס לשגרה נקרא Unit Economics – כלכלת יחידה – שיוך של עלות התשתית ליחידה עסקית מדידה (לדוגמה: שיוך עלות השרת למחלקה, שיוך עלות המנוי ל-AWS לעסקה מסוימת וכו').

אלא שבעולם ה-GenAI המודל המסורתי נשבר. מדוע? ראשית, כי מודל החיוב שונה בהשוואה למודל הענן שתומחר במודל מנוי, וההוצאה הייתה די ברורה וקבועה (אם כי ניתנת לשינוי גמיש). מודלי השפה ותשתיות AI מתומחרים לפי טוקנים, קריאות API וזמני עיבוד ולא לפי משאבים קבועים. בחירת המרכיב הנכון למדידת ה-Unit Economics הופכת למשימה מורכבת בהרבה. שנית, הערך של ה-AI לא קבוע מראש – שלא כמו שרת ענן רגיל, שמספק כוח מיחשוב יציב, ה-AI מפיקה תוצרים שאינם קבועים. התמחור הוא פעמים רבות על פי מספר השאילתות והוא יכול להיות X בחודש אחד ופי עשרה בחודש שלאחריו. והתוצרים אינם בהכרח בהתאם לשימוש: משימת AI אחת יכולה לייצר ערך עסקי עצום בעוד משימה אחרת באותו מחיר בדיוק מייצרת פלט סתמי או ניסיוני. ארגונים רואים בחשבונית שהם מקבלים מאנת'רופיק, גוגל או OpenAI סכום, אך ללא חלוקה. הם יודעים כמה הם שילמו, אך אין להם מושג איזה עומס עבודה צרך את השירות, איזה צוות או איזה מוצר גרם להוצאה.

השיוך הוא התנאי המקדים לכל מדידת ROI

ברור שאי אפשר לחשב תשואה (ROI) על השקעה שאינך יודע לייחס אותה. שיוך עלויות (Cost Allocation & Attribution) הוא התשתית ההכרחית והתנאי המקדים למדידת ROI. ללא תשתית שיוך מדויקת הארגון נמצא בעיוורון. אם לא יודעים כמה טוקנים נצרכו עבור צ'אטבוט השירות וכמה שולם עבור כלי ה-AI של צוות הפיתוח, אי אפשר לקבוע אם ה-AI חוסכת כסף ואיפה.

תחום ה-FinOps – לניהול פיננסי אופטימלי של הענן ומערכות AI, מציג גישה חדשה לפתרון שכוללת: 1. שיוך הוצאות עד רמת עומס העבודה והטוקן; 2. מנגנון הקצאה ללא תיוג (Tagless Allocation), המשייכת עלויות על פי התנהגות המערכת בזמן אמת, מודלים של עבודה, היררכיות ארגוניות ונתוני ריצת הכלים; 3. פירוק משאבים משותפים – חלוקה חכמה ומדויקת של ההוצאה בין החטיבות והצוותים.

הנהלות אינן יכולות להמשיך לאשר הוצאות עתק על בסיס הבטחות לחדשנות בלבד. נקודת ההתחלה נמצאת בתשתית השיוך, שאיתה הדיאלוג בארגון משתנה מן היסוד: במקום לומר "אנו מוציאים 100,000 דולר בחודש על GenAI", מנמ"רים צריכים להצהיר בפני סמנכ"לי הכספים: "פתרון ה-AI במחלקת שירות לקוחות עולה לנו שני דולר לכל פנייה שפתרנו, וה-AI של צוות השיווק עולה לנו 45 דולר לכל ליד חדש". רק כאשר יודעים לאן הולך כל דולר וכל טוקן, אפשר למדוד מה התקבל בתמורה.

הכותב הוא מייסד ומנכ"ל חברת DoiT, המפתחת פתרונות לשליטה מלאה בהוצאות הענן וה-AI (FinOps).