AWS השיקה כלי שמאפשר להריץ מודלי AI על מעבדי ה-Trainium שלה

AWS מרחיבה את היריעה בלחימה על כל לקוח בעולם ה-AI מול מלכת השוק, אנבידיה. החברה הכריזה אתמול (ב') על כלי חדש, TorchNeuron שמו, שמאפשר למפתחי AI להמיר בקלות את האפליקציות שלהם לעבודה עם מעבד הבינה המלאכותית של החברה, Trainium.

TorchNeuron עובד מול ערכת הכלים החופשית בקוד פתוח PyTorch, בה משתמשים רוב מפתחי הבינה המלאכותית – מעל 85%, לפי אמזון – כדי לבנות, לאמן ואז להריץ מודלים חדשים. טענת AWS היא שאפליקציות קיימות זקוקות לשינוי קל בלבד בהגדרות שלהן כדי שיוכלו לרוץ על המעבדים של החברה, ואין צורך בקידוד מחדש.

אנבידיה השקיעה, וממשיכה להשקיע, משאבים כדי להבטיח שאפליקציות שמפותחות באמצעות PyTorch ייתמכו באופן מלא ב-CUDA, תשתית התוכנה שלה, שמבטיחה שאפליקציות ירוצו על שרתים שמבוססים על המעבדים הגרפיים ושאר רכיבי החומרה של החברה. מכאן שהמהלך של AWS הוא תחרות ישירה באנבידיה, בדומה לחברות אחרות שביצעו התאמות לחומרה שלהן, כולל AMD ואפל.

מה עושה את ההבדל, מבחינתה של אמזון? לטענתה, שימוש ב-TorchNeuron מספק גם גישה לכל שירותי הענן של החברה, מה שמעניק – במיוחד לסטארט-אפים – יתרון: אין צורך לרכוש כוח מחשוב מספקיות ענן חיצוניות, שרובן קשורות כיום לאנבידיה. זאת, במיוחד מאחר שמעבדי ה-Trainium משמשים לצורך האימון וההרצה. זה יכול לחסוך להחברות הללו הרבה כסף.

"אתם בונים ב-AWS. אתם לא מהמרים על ספקית מחשוב שזה כל הייעוד שלה, ואז נאלצים להתרוצץ ולבנות את כל השאר מסביב", אמר קולין ברייס, סמנכ"ל טכנולוגיות תוכנה ב-AWS Annapurna Labs, שמפתחת את השבבים הייעודיים של אמזון. "ב-AWS, התשתית המאפשרת לעבור מאבטיפוס לייצור כבר קיימת; זה מאפשר ליזמים להתקדם במהירות ולהרחיב את הפעילות בדיוק כשהם זקוקים לכך".

הוא הוסיף כי "הערך של Trainium טמון ביחס העלות-תועלת שלו, ובכך שהוא מהווה פלטפורמה אחודה לאימון ולהיסק – דבר שמשפר את הכדאיות הכלכלית לאורך מחזור העבודה המלא".