הקוד הפתוח: מנוע לקידום חדשנות AI בארגונים

"משימתה של רד האט הייתה ונשארה לספק טכנולוגיות חדשניות לארגונים, על בסיס קהילות ושותפים בקוד הפתוח, משימה אשר רלוונטית על אחת כמה וכמה בעולמות ה-AI", מסביר שון פז, מנהל קבוצת ארכיטקטים אזורי ברד האט. פז מתראיין לקראת הכנס Unlocking Innovation של החברה, שיתקיים ב-8 בספטמבר וישים דגש על חדשנות וחידושים בעולם הקוד הפתוח ו-AI. 

פז מציין כי "החזון הוא לאפשר ללקוחותינו את הגמישות בבחירת ספק החומרה, סוגי המעבדים הגרפיים והמודלים השונים, תוך שמירה על סטנדרט אבטחתי הכולל פשטות תפעול, אוטומציה, אבטחה, נראות ושליטה בעלויות". 

"במסגרת הכנס נציג שיתופי פעולה חדשים וחדשניים, החל משכבת החומרה, לשכבת הפלטפורמה ועד לשכבת האפליקציה החכמה, דוגמת סוכני ה-AI והצ'טבוטים. בנוסף, נרחיב לגבי שתי רכישות משמעותיות שביצענו של החברות Jounce ו-Neural Magic, אשר עתידות להשתלב בפלטפורמות השונות של רד האט ויאפשרו ניהול עלויות חכם ופשטות תפעול". 

הקוד הפתוח מסייע לקדם חדשנות AI בקרב ארגונים

לשאלה כיצד רד האט פועלת כדי לקדם חדשנות AI בקרב ארגונים עונה פז כי "רד האט מחזיקה בגופי-פיתוח שכל תפקידם הוא לייצר טכנולוגיה טובה יותר, בעלת ערך וללא פשרות על אבטחה, עלויות או נראות. אותם גופי-פיתוח יוצרים שיתופי פעולה בקהילת הקוד הפתוח עם החברות המובילות בתחומי ה-AI על כל רבדיה, במטרה לאפשר לארגונים לקצר את זמן העלייה של סוכנים, צ'טבוטים ומודלים לייצור".

"אחת מהדוגמאות המובילות לפועלה של רד האט בקהילת הקוד הפתוח הוא פרויקט  vLLM, התופס תאוצה מסיבית ומהווה סטנדרט בעולמות ה-Model Serving. הפרויקט מאפשר שכבת הנגשה פשוטה למודלי שפה גדולים כשירות, ללא כל תלות בספק המודל, כאשר יכולת זו מאפשרת להנגיש לקהילה מודלי שפה גדולים מבוססי קוד פתוח בפער של כמה דקות מהרגע שבו שוחררו. בין אותם מודלים ניתן לראות את Llama, Mistral, Granite, Qwen ועוד רבים". 

שיתופי פעולה שמביאים ערך ללקוחות 

"שיתוף הפעולה הבולט ביותר שנכריז עליו במסגרת הכנס הוא עם מטא (Meta)", חושף פז. "שיתוף פעולה זה מאפשר שימוש ב-Llama Stack כפלטפורמה פשוטה לפיתוח סוכני AI, צ'טבוטים ועוד. אנו מייצרים אינטגרציה בין Llama Stack לבין Red Hat AI, המאפשרת כבר היום ניהול מחזור חיים של מודלי AI – בין אם מבוססי בינה יוצרת או בינה חוזה. השילוב בין השניים יאפשר ללקוחותינו פיתוח סוכני AI וצ'טבוטים בהתבסס על פלטפורמה אחודה, הכוללת אבטחה, עלויות, נראות ועוד". 

"הערך הממשי הוא ש-רד האט לא צריכה להמציא את הגלגל. הרבה משיתופי הפעולה והאינטגרציות כבר קיימים כחלק משותפויות שאנו מייצרים כבר שנים בכל התחומים, דבר המאפשר לנו לספק יותר יכולות מהר יותר עבור הלקוחות שלנו. בסופו של דבר, גם סוכנים, צ'טבוטים או כל אופציה אחרת עדיין מהווים חלק ממערכת שלמה. למערכת זו דרישות דומות גם באפליקציות אותן אנו מפתחים היום". 

מספקים הצעת ערך בעולמות הווירטואליזציה

"רד האט היא שחקנית ותיקה בעולמות הווירטואליזציה. הכל התחיל אי שם ב-2008, כאשר רכשנו חברה בשם Qumranet, אשר לימים היוותה חלק אינטגרלי בפיתוח של KVM – אחד מה-Hypervisors המובילים בשוק, עליו מסתמכות חלק גדול מפלטפורמות הווירטואליזציה הקיימות היום, הן בעננים הפרטיים והן בציבוריים. כיום רד האט מבססת את מנוע הווירטואליזציה המוביל שלה על Red Hat OpenShift, עם תוסף בשם Red Hat OpenShift Virtualization, המאפשר ליהנות מה-Ecosystem הרחב של קוברנטיס מצד אחד, ולא להתפשר מצד שני על ביצועים, יכולות ואבטחה".  

"אנו נמצאים היום בשיחות מרובות עם לקוחות בשווקים שונים, המעוניינים לעדכן את פלטפורמות הווירטואליזציה שלהם לתנאי השוק ומובילים פרויקטים עצומים הכוללים מיגרציות של עשרות אלפי מכונות ל-Red Hat OpenShift Virtualization. במסגרת אותם פרויקטים, מטרתנו היא לתת מענה מלא, החל משלבי התכנון הראשוני ועד הביצוע המעמיק בשטח", מסכם פז.