מיקרוסופט חושפת את Maia 300 להאצת AI

מיקרוסופט (Microsoft) חשפה את Maia 300, הדור השלישי של מערכת ההאצה הפנימית שלה לבינה מלאכותית, כחלק מהמאמץ להקטין את התלות במאיצים חיצוניים של אנבידיה (Nvidia) ו-AMD ולהפוך את משפחת Maia לתשתית מרכזית עבור שירותי ה-AI שלה.

החברה מתכננת להתחיל בפריסות ייצור של Maia 300 ב-2027, כחלק מהרחבה של Azure Maia להיקפים של כמה ג'יגה-וואט. לפי מיקרוסופט, משפחת Maia אמורה להפוך עם הזמן למערכת ההיסק המרכזית עבור מוצרי ושירותי החברה.

עד פי 7 throughput ברמת rack

Maia 300 מיועד לעומסי AI חדשים, בהם reasoning על הקשרים ארוכים, חוויות שיחה רגישות לזמן תגובה ומשימות סוכנית מתמשכות ורב-שלביות.

מיקרוסופט טוענת כי המערכת תספק כ-40% יותר טוקנים למגה-וואט בהשוואה למערכות GPU מובילות.

בתצורה מלאה של 96 מאיצים, Maia 300 אמור לספק עד פי 7 throughput של טוקנים ברמת rack לעומת Maia 200, ולמעלה מפי 2.5 ביצועים לוואט. Rack כזה פועל במעטפת הספק של 167 קילוואט וכולל 27.6 טרה-בייט של זיכרון HBM עם רוחב פס מצרפי של 1.7 פטה-בייט לשנייה.

Maia הופכת לתשתית מרכזית של מיקרוסופט

Maia 200 כבר משמש כיום עומסי ייצור של מיקרוסופט, בהם Copilot, מודלי OpenAI, מודלי MAI של החברה ומודלים בקוד פתוח.

מיקרוסופט מתכוונת להמשיך להשתמש במקביל גם ב-Maia 100 וב-Maia 200, כדי להציע רמות שונות של שירות ולהרחיב בהדרגה את השימוש במשפחת המאיצים.

עוד צעד להפחתת התלות בספקי שבבים חיצוניים

מיקרוסופט אינה היחידה שמפתחת מאיצי AI בעצמה. גם גוגל (Google), אמזון (Amazon), מטא (Meta) ו-OpenAI משקיעות בתכנון שבבים או מאיצים פנימיים, כחלק מהניסיון לשלוט טוב יותר בעלויות, בזמינות ובביצועים של תשתיות AI.

אצל מיקרוסופט, Maia 300 אינו מוצג רק כשבב חדש, אלא כחלק ממערכת מלאה שמחברת חומרה, תוכנה, רשת, rack ודאטה סנטר למערכת אחת המותאמת לעומסי AI בקנה מידה גדול.