"הוצאות AI בלא שליטה עלולות להטביע ארגונים"

"ארגונים זקוקים כיום ל'משמעת פיננסית' בצריכה של AI", כך אמר ג'רמי צ'פלין מ-פלקסרה, שדיבר בוובינר שערכה נס, אשר דן במיטוב וניהול העלויות הגדלות של AI בארגונים

ג'רמי צ'פלין, מנהל בכיר לארכיטקטורת פתרונות פינאופס, פלקסרה.

"ניהול ההוצאות בעולם הבינה המלאכותית הוא האתגר הקריטי ביותר העומד לפתחם של ארגונים. כמו בתקופת המעבר לענן, גם כעת ארגונים ניצבים מול כאוס בעולם ההוצאות של ה-AI, לצד צמצום חוסר היעילות של השימוש במשאבים. שימוש באסטרטגיות FinOps מוכחות יביא לניטור, ניהול ומיטוב, וכך ישיג את המטרה של 'משמעת פיננסית' לארגון, תוך הבנת הערך העסקי המיידי והחזר ההשקעה על הוצאות ה-AI", כך אמר צ'פלין, מנהל תחום פינאופס – פתרונות, ארכיטקטורה וייעוץ בפלקסרה (Flexera).

צ'פלין היה דובר המפתח בוובינר שערכה נס (Ness) בנושא "ניהול ובקרת ההוצאות על AI ומיצוי מרבי של הערך העסקי". פלקסרה מיוצגת בישראל על ידי נספרו (NessPRO), קבוצת מוצרי התוכנה של נס.

לדברי צ'פלין, "תפעול ה-AI הופך לבעיית הוצאות גדלה ונפוצה, ודורש יעילות מיידית. דוגמה לכך היא תקציב ה-AI ל-2026 של אובר (Uber) העולמית, שהסתיים כבר באפריל השנה. ה-COO שלהם ציין שלא ניתן לקשר את ההוצאה לפיצ'רים בפועל". הוא הוסיף: "אחד מהלקוחות הארגוניים של מודל ה-AI קלוד קיבל חשבונית בסך 500 מיליון דולר, כיוון שאיש לא הגדיר מגבלות שימוש".

צ'פלין ציטט נתון של גרטנר (Gartner), לפיו עלויות השימוש בטוקנים ל-AI יגיעו ל-120 קוודריליון דולר עד 2030. "מחקרים צופים כי עלות השימוש ב-AI השנה תעמוד על 2.5 טריליון דולרים", אמר. "בסופו של יום – פינאופס הוא אמצעי קריטי לכל ארגון, והוא נועד לתמוך ביעדים העסקיים".

"ארגונים משקיעים משאבים רבים ב-AI", אמר צ'פלין. "הם מפטרים כוח אדם, מנסים להתייעל, ותמיד מחפשים הוכחה עסקית ל-AI. הבעיה היא ניהול ההוצאות, היעדר בקרה וחוסר יכולת להוכחת הערך. נדרשת גישה תפעולית חדשה, שבמרכזה הצורך למטב את צריכת הטוקנים, בדיוק כמו שעשינו בענן. יש להבין לעומק את העלות האמיתית של AI, ואת הערך שהיא מניבה". 

"השימוש הגדל ב-AI", ציין, "מגדיל את פער הנראות: בעננים, בדאטה סנטר ובצריכת שירותי SaaS. נדרש לענות לשני אתגרים במקביל: פינאופס ל-AI – האם המודל בו נעשה שימוש הוא הנכון? האם ה-GPU יעיל, האם צריכת האנרגיה היא המיטבית? עוד יש להבין את הערך מה-AI, בפילוח צריכה פנימית מול חיצונית. חשוב לברר מי הישות הצורכת AI ומה הערך המתקבל. נדרשת פלטפורמה מוכללת לניהול תהליכי הוצאות ה-AI".

גילי חזני, מנהל פעילות טכנולוגיות ניהול, נספרו.

גילי חזני, מנהל פעילות טכנולוגיות ניהול, נספרו. צילום: יח"צ

בקרה על הצריכה – בכל השכבות

"הבקרה על הצריכה", הסביר צ'פלין, "נעשית בכל השכבות: בדאטה, באבטחה, בטוקנים, בסוכנים, ביישומים, במודלים, בתשתיות מחשוב ובפלטפורמות AI. נדרשת בשלות לתחום, כי לצערנו, יש ספקיות שאינן משקפות את ההוצאות. לאחר שהתקבלה נראות עם כלל הנתונים, נדרש חיזוי. זה קשה אבל הכרחי, כדי שלא לחרוג בהוצאות. יש להבין מתי הצריכה זינקה, למה ומהו הערך העסקי. הפלטפורמה שלנו מספקת יכולות חוצות ארגון בתחום, עם נראות, מיטוב, ניהול ובקרה תקציבית. אנו מעניקים לארגונים חיסכון של עשרות אחוזים בכל אחד ממקטעי השימוש ב-AI", הבהיר.

"אנו מסייעים ללקוחות הארגוניים לצרוך שירותי AI וליישם את 'כלכלת הטוקנים' בתבונה כלכלית, עם בחינת חלופות, תוך ניתוח כלל הנתונים הקשורים לתפעול ולצריכה", סיכם צ'פלין. "וכך מעניקים לארגונים יכולת לחסוך חלק ניכר מעלויות צריכת שירותי ה-AI וגם להבין את הערך מהשקעת ה-AI". 

את הוובינר פתח גילי חזני, מוביל תחום פלקסרה בישראל בנס, שאמר: "ה-AI משנה מקצה לקצה את הכללים עבור ארגונים והכלכלה בכלל. עולים אתגרים מהותיים: לא רק העלויות הארגוניות סביב ה-AI, אלא איך לנהל אותן נכון כבר מההתחלה, עם שיטות ניהול לצד כלי FinOps AI, כדי להשיא ערך עסקי מדיד".

יובל פרצ'יקוב, ראש תחום פינאופס בקבוצת הענן של נס, ציין כי "המעבר המואץ לעולם ה-AI דורש הבנה בעלויות הצריכה בתחום, בשל השימוש המורחב בטוקנים. זוהי 'כלכלת טוקנים'. הגישה שלנו משלבת מומחיות אנושית עם מתודולוגיות לעולם זה, בשילוב כלי ניהול, ניטור, ניתוח ובקרה, כמו של פלקסרה".

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים