מבועת הטוקנים לפריון אמת: למה טרנד ה-Tokenmaxxing קורס?

תופעה חדשה באה לעולם לפני כמה חודשים: Tokenmaxxing (טוקנמקסינג). אין לזה תרגום עברי מדויק, אבל מדובר במדידת הפרודוקטיביות של עובד לפי כמות אסימוני הבינה המלאכותית שהוא צורך. לכאורה, אם אתה בזבזן היסטרי של תקציבים במנוי ה-AI הארגוני, זה מסמן אותך כעובד יותר פורה. אבל המדד הלא כל כך אמין הזה, כפי שתיכף תראו, הולך ומתפוגג, בערך באותה המהירות שבה הוא עלה.

הרעיון הזה, של קשירת מדידת ביצועים של עובד לשימוש ב-AI, החל להתגלגל בערך לפני שנה וחצי, והגיע לשיאו במרץ האחרון כשג'נסן הואנג הציע מפתח ל-Tokenmaxxing על בימת כנס המפתחים של החברה שהוא ממנכ"ל, אנבידיה: הוא הציע לתת למהנדסים תקציב טוקנים שנתי בשווי של חצי משכר הבסיס שלהם (שזה המון). זאת, כחלק מתוכנית של אנבידיה לפרוס מאות אלפי סוכני AI עצמאיים לצד 42 אלף העובדים האנושיים שלה. עוד טען הואנג אז כי כמות הטוקנים שהעובדים החדשים מקבלים הפכה להיות מדד משיכה בפניהם. מכאן הטרנד תפס כמו אש בשדה קוצים.

חודש אחרי, עובד במטא בנה דשבורד פנימי בשם Claudeonomics, שמדרג את 250 צרכני הטוקנים הגדולים ביותר בחברה, כולל "דרגות" כמו "אגדת טוקנים" ו-"מכשף קאש". למרבה המבוכה, הנתונים דלפו החוצה: מטא השתמשה במעל 60 טריליון טוקנים (!) במשך חודש, והמשתמש המוביל השתמש בלא בפחות מ-281 מיליארד (!) טוקנים בשווי מצטבר של 1.4 מיליון דולר. ועוד נתון מביך במיוחד: מארק צוקרברג ואנדרו בסוורת', ה-CTO של מטא – שניהם אפילו לא נכנסו לדירוג בין 250 הראשונים. יומיים אחרי הדליפה, לוח הדירוג ירד מהרשת הפנימית של חברת הענק ונעלם כלא היה.

מוקש צריכת הטוקנים

טירוף צריכת הטוקנים בעמק הסיליקון הפך מהר מאוד למוקש. כמו שתיאר זאת מהנדס במיקרוסופט: "אני צריך לעשות toeknmaxxing כדי להימנע מלהיראות כמי שמשתמש מעט מדי ב-AI…". זה הגיע למצב שבו אנשים העדיפו לעשות שימוש בבינה מלאכותית רק כדי להיראות כמי שעושים בה שימוש, במקום להשתמש בכלים פנימיים מהירים ומתאימים יותר למשימה. וזו כבר בעיה.

באופן דומה, מפתחים בסיילספורס דיווחו שהם "שורפים" טוקנים על פרויקטים שלעולם לא ישוגרו, ושלא תמיד יש להם קשר ישיר לעבודתם. אבל לא מדובר ברמאות – אלא בלחץ חברתי שנוצר כתוצאה מהתופעה: לבזבז טוקנים רק לשם הבזבוז והגדלת נפח ההוצאה.

ענקיות הטכנולוגיה הבינו מהר מאוד שיש להן בעיה, ושינו כיוון באופן חד: ביוני הטילה מטא מגבלות ומסגרות על הוצאות על אסימוני שימוש ב-AI, כולל מסגרת תקציב קשיחה ל-2027, ובחודש שעבר מיקרוסופט הוציאה מזכר פנימי לעובדים שבו כתבה: "אנחנו לא מתאימים את עצמנו ל-Tokenmaxxing. אנחנו רוצים שכולם יתמקדו במקסום תוצאות שיהיו חיוביות ללקוחות ולעסקים שלנו". וזה ממצה את הבעיה שבמדד הטוקנים, שהלחיץ לחינם מפתחים: מדובר במדד תשומה, לא במדד תפוקה. הוא מודד כמה אתה מבזבז, לא בהכרח כמה אתה מפיק עבור הארגון או יוצר בעזרת התשומה ערך אמיתי.

לכן, אופנת ה-Tokenmaxxing דועכת באותה מהירות שהתלקחה. ספקיות המודלים הן אלה שהרוויחו בעיקר מליבוי אש ההוצאות, ובעניין הזה חשוב גם לזכור שלא כל בעיה דורשת תותח בדמות המודלים החדשים ביותר – לא כל פעולה יומיומית דורשת שתפעילו עליה את אופוס 5 במצב חשיבה גבוה. זו נקודה שחשוב לזכור: צריך להתאים את הכלי למשימה, לא להיסחף בשריפת אסימונים. שהרי עובדים צריכים להימדד בתפוקות, לא בתקציב הבינה המלאכותית שהם שורפים. זה טוב לשורה התחתונה של OpenAI, גוגל או אנת'רופיק – אבל לא בהכרח טוב לשורה התחתונה של הארגון שלכם.