החשבון על ה-AI הגיע ל-P&L

מאת: דניס פוזולוטין, סמנכ"ל טכנולוגיה וחדשנות, אינוקום (Innocom)

בשנה האחרונה מנהלי מערכות מידע בישראל הגדילו את התקציב ורכשו לצוותי הפיתוח רישיונות AI כמעט בלי הגבלה, מתוך אמונה שכלים כמו Claude Code יהפכו כל מפתח לצוות שלם. ההיגיון היה נכון: מי שלא התנסה נשאר מאחור. וזה עבד: קוד יצא מהר יותר, מחזורי בדיקה התקצרו, צוותים קטנים סיפקו תוצרים כמו גדולים, במהירות שלא הכרנו עד כה. עכשיו, כאשר מגיע החשבון לתשלום, מנהלי הכספים עוצרים את החלוקה החופשית ודורשים מספרים, וה-AI צפה פתאום במקום שאי אפשר להתעלם ממנו, ב-P&L. 

ההוצאה שנרשמה כ"חדשנות" היא עכשיו מספר שמישהו צריך להסביר בישיבת הנהלה. כל בקשה עולה כסף, כל סוכן שמריץ רצף פעולות צובר עלות. זו הבעיה הבוערת כרגע, והשוק מחפש דרך למדוד ולנהל אותה.

יש כלים שמיועדים לפתור את הבעיה, כמו New Relic AI Monitoring – כלי שמראה לאן באמת הולכים הטוקנים, לפי מודל ולפי תהליך, במקום חשבון ענק שמגיע בהפתעה בסוף החודש. פתאום רואים איזה צוות צורך מה, איזה תהליך מייצר את החריגה, ואיפה אפשר לעצור אותה לפני שהיא נכנסת לדו"ח.

ולצד יכולת הראייה, יש גם יכולות שליטה. שכבת AI Gateway יושבת בין הארגון למודלים, מנתבת משימה למודל זול יותר כשאפשר, ומגבילה את התקציב של כל צוות.

את היכולת הזו מביאה פורטקי (Portkey), שהיום היא חלק מפאלו אלטו נטוורקס (Palo Alto Networks) ומשתלבת בפלטפורמת האבטחה שלה. בנוסף, פתרון ה-Prisma AIRS של פאלו אלטו נטוורקס משלים את התמונה ומספק מענה מקיף לבעיית צריכת הטוקנים הבוערת.

מונה הטוקנים נותן תמונה חלקית

דו"ח חדש של ניו רליק מצא ש-94% מהמנהלים דירגו קוד שנכתב ב-AI כאיכותי יותר מקוד אנושי בשלב ה-review. הקוד נראה מצוין, אז מאשרים אותו ומעלים אותו לאוויר. ואז מתחילות הבעיות: 78% מדווחים על יותר תקלות בפרודקשן, ולפחות רבע מהקוד דורש כתיבה מחדש. הפער הזה הגיוני: הקוד עובר את הביקורת כי הוא נראה נכון, והבעיות צפות רק כשמשתמשים אמיתיים ועומס אמיתי פוגשים אותו. תרגמו את זה לכסף: שעות של המהנדסים הכי יקרים שלכם שמתקנים אחרי ה-AI; סוף שבוע של צוות שמבוזבז על קוד שאיש לא כתב עד הסוף; השבתות שירות שעולות ללקוחות; שורה בדו"ח שמעולם לא תייגתם כ'AI'; החיסכון שרשמתם בשורה אחת חוזר ומופיע כהוצאה בשורה אחרת, בשקט.

הפרודוקטיביות לא נעלמה, היא זזה. צוואר הבקבוק עבר מהמפתח שכותב את הקוד למהנדס הבכיר שמתקן אותו, ומשם לחשבון שאף אחד לא תכנן.

ניו רליק מאפשרת לעשות הרבה מעבר לספירת טוקנים. ב-23 ביוני היא שחררה כלי קוד פתוח שמנטר את סשני הפיתוח עצמם, מול Claude Code ו-Cursor ועל פני כל המערכת. הוא מקשר בין הקריאה הזולה לבין מה שהיא באמת עלתה בהמשך, ומראה את שני סוגי העלות במקום אחד, כך אפשר לראות שקריאה שחסכה שקל בשורת הטוקנים עלתה מאה בשורת התחזוקה, ולהחליט אחרת בפעם הבאה.

הטוקנים הם החצי ש-קל למדוד. החצי השני נכנס לדוח בשקט, וממשיך לגדול עד שמישהו מודד גם אותו.

אינוקום מייצגת בישראל את פאלו אלטו נטוורקס ואת ניו רליק.

רוצים לשמוע איך זה יעבוד אצלכם? פנו לאור פלבניק מייל [email protected]