חיים חדשים לשרתים: איך החומרה של אתמול הופכת לנכס?

בדצמבר 2024 פרסמה דיפסיק הסינית את המסמך הטכני של מודל V3, ובו נתון שטלטל את התעשייה: המודל אומן על 2,048 מעבדים גרפיים מסוג H800, בסך הכול כ-2.8 מיליון שעות GPU – בעלות מוערכת של 5.6 מיליון דולר בלבד.

לשם השוואה, אימון Llama 3.1 405B של מטא דרש פי 11 שעות GPU. ההפתעה הייתה שה-H800 רחוק מלהיות השבב המוביל של אנבידיה. מדובר בגרסה מוגבלת של ה-H100, שחברת הענק פיתחה במיוחד עבור השוק הסיני כדי לעמוד במגבלות הייצוא האמריקניות, ובה קוצצו ביצועי החיבור בין השבבים בכחצי. באוקטובר 2023 נאסר גם הייצוא שלו לסין.

כשבינואר 2025 הגיע R1, מודל ההסקה שנבנה על אותו בסיס, התגובה בשוק ההון הייתה חריפה: ב-27 בינואר איבדה מניית אנבידיה כ-17% מערכה – קרוב ל-600 מיליארד דולר בשווי שוק ביום מסחר אחד. השאלות שריחפו באוויר היו פשוטות: האם אפשר להגיע לביצועים כאלה על חומרה מוגבלת? והאם כולם באמת צריכים את השבב החדש ביותר? דיפסיק לא עשתה קסמים, אלא הנדסה. היא אימנה את המודל בדיוק מוקטן של FP8, ירדה לרמת תכנות נמוכה מ-CUDA ופיתחה שיטות לתזמון התקשורת בין המעבדים כדי לפצות על רוחב הפס החסר.

המסקנה די ברורה: אורך החיים של שבב לא נקבע לפי תאריך ההשקה הנוצץ, שמשרת בעיקר את שורת הרווח של החברה (במקרה הזה, כאמור, אנבידיה) ומשקיעיה, אלא בכמה אפשר לסחוט ממנו. פה נכנסת לתמונה החומרה הישנה, שכנראה שיושבת אצלכם במחסן.

הפחד מהצפה שלא הגיעה

את הדיון הזה, על הערך שנותר בחומרה אחרי שהיא יוצאת מהשורה הראשונה, פגשתי באחרונה במקום שבו הוא הופך לעסק תעשייתי לכל דבר: מרכז חידוש הטכנולוגיה של HPE בארסקין, כ-20 דקות נסיעה מגלזגו שבסקוטלנד, שם אירחה אותי החברה, לצד שורה של עיתונאים מאירופה. מדובר במבנה של כ-240 אלף רגל רבוע, שהיה בעבר מפעל ייצור של קומפאק ושל HP, וכיום הוא המרכז התפעולי של HPE Financial Services (HPFS) – הזרוע הפיננסית של החברה. יחד עם אתר אח בגודל דומה באנדובר, מסצ'וסטס, ועם כ-40 אתרי קליטה אזוריים ברחבי העולם, הוא מטפל בציוד שחוזר מליסינג, בציוד שלקוחות מוכרים ובשרידים של מרכזי נתונים ומחשבי על שהגיעו לסוף דרכם.

מייב קולוטי, נשיאת ומנכ"לית HPFS, פתחה את הסיור במרכז בווידוי מעניין: החטיבה מממנת מעבדים גרפיים כבר כמעט עשור, אבל לפני כחמש שנים, כשהיקפי המימון זינקו, איש לא ידע אם יהיה להם שוק משני. "אילו הייתי כאן לפני שלוש שנים, הייתי מתקשה לענות על השאלה הזו", אמרה. החשש היה שגל ההשקעות העצום ב-H100 וב-H200 יגיע בבת אחת לשוק המשני, יציף אותו וימוטט את ערך המניה, כך שחברת מימון לא תוכל לשאת בסיכון. "היום זה ברור לגמרי. יש שוק משני למעבדים גרפיים. הלקוחות שלנו רוצים גישה אליהם ושמחים מאוד לקחת מעבדים גרפיים בחיים שניים", קובעת קולוטי.

מייב קולוטי, נשיאת ומנכ"לית HPFS. צילום: יח"צ

לדבריה, HPE בונה בימים אלה את יכולות הבדיקה והתשתית הדרושות כדי לחדש מעבדים גרפיים בהיקפים גדולים – תחילה בארצות הברית, באזור בוסטון, ובהמשך גם באירופה, בין השאר כדי לעמוד בדרישות הריבונות של האיחוד האירופי ושל בריטניה. בזכות הקשרים עם אנבידיה, AMD ואינטל, החברה מתכוונת להסמיך מחדש את הכרטיסים ולהעניק להם אחריות מחודשת מצידה. קולוטי הגדירה את זה כ-"סוג נכס חדש", והוסיפה שככל שעומסי העבודה ינדדו בין GPU ל-CPU, הביקוש לביצועים של תשתיות AI רק ימשיך.

HPE לא לבד: ביולי השיקה קומפיוט אקסצ'יינג' האמריקנית זירת מסחר ייעודית לכרטיסי H100 ו-A100 משומשים ומחודשים, עם בקשות שנעות בין כמה מאות לעשרות אלפי מעבדים. "לא כל עומס עבודה דורש את הדור החדש ביותר של מעבדים גרפיים", הסבירה המנכ"לית, קרמן לי. במקביל, ניטש בוול סטריט ויכוח ער על קצב הפחת של החומרה הזו: ספקיות הענן הגדולות האריכו בשנים האחרונות את לוחות הפחת של השרתים שלהן לחמש ושש שנים, בעוד מבקרים כמו המשקיע מייקל ברי טוענים שאורך החיים הכלכלי האמיתי קרוב יותר לשנתיים-שלוש. הסיפור של דיפסיק, מה-H800 ועד ה-A100, הוא נקודה לא מבוטלת לטובת הצד הראשון.

כשהזיכרון מתייקר, הישן הופך לאטרקטיבי

מאט האריס, סגן נשיא בכיר ומנהל אזור בריטניה, אירלנד, המזרח התיכון ואפריקה ב-HPE. צילום: יח"צ

אם יש גורם אחד שמאיץ את המגמה הזו יותר מכל דבר אחר הוא מחירי הרכיבים. מאט האריס, סגן נשיא בכיר ומנהל אזור בריטניה, אירלנד, המזרח התיכון ואפריקה ב-HPE, תיאר תמונה שכל מנהל IT מכיר מהשנה האחרונה: פרויקטי הבינה המלאכותית הענקיים יוצרים ביקוש שההיצע לא עומד בו – והמחירים מטפסים, בעיקר של הזיכרונות ושל כונני ה-SSD. "כל דבר שנראה כמו תשתית AI יהיה קשה יותר להשגה ויקר יותר", אמר.

מי שנפגעים מכך ראשונים, לדברי האריס, הם השוק הבינוני והשלטון המקומי, שמוצאים את עצמם מתומחרים החוצה גם מהצרכים הבסיסיים ביותר. התגובה הטבעית היא למתוח את הציוד הקיים עוד שנה ועוד שנה, אבל זו יוצרת חשיפות אבטחה וציוד שיצא מתמיכה. לכך מצטרפת המכה הכלכלית של שינויי הרישוי ב-VMware, והלחץ להגדיר אסטרטגיית AI ולתקצב אותה. "זה משנה את התפיסה", אמר. "האם אני צריך, או בכלל יכול, להרשות לעצמי לקנות חדש, כשאני יכול לקבל נכס מחודש ומקצועי שיעשה את העבודה?". האריס הודה שיש כאן גם עניין פסיכולוגי, בדומה להבדל בין קנייה מהמדף לרכישה באי-ביי, אבל העריך שהשיקול הזה יהפוך למרכזי. בעולם שבו הכול מתייקר, אמר, ניצול מחדש של תשתיות הופך לסעיף רציני על שולחן ההנהלה.

אצטדיון אחד, 1,800 נקודות גישה

כדי להמחיש את המשמעות המעשית של זה העלתה HPE לבמה את רוב פיקרינג, סמנכ"ל הטכנולוגיות של מועדון הכדורגל טוטנהאם הוטספר מהפרמייר ליג של אנגליה. האצטדיון של המועדון בצפון לונדון, שמארח 62 אלף צופים כמעט מדי שבוע ומשמש גם למשחקי NFL ולהופעות, נבנה עם ציוד שנרכש ב-2018. עכשיו, כשמונה שנים אחר כך, המועדון נמצא בשני שלישים מהדרך להחלפה כוללת של התשתית, כולל כ-1,800 נקודות גישה אלחוטיות, ועד ינואר הפרויקט אמור להסתיים.

פיקרינג הציג שני נתונים שמסבירים היטב את הכלכלה של המהלך: הראשון – התשתית החדשה תופסת כ-60% פחות שטח, כי כל יחידת מדף מספקת כיום הרבה יותר כוח עיבוד. השני – "הרצת ציוד בן שמונה או תשע שנים יקרה משמעותית מהרצת ציוד חדש", אמר. לפי המודל שהמועדון בונה בימים אלה, החיסכון בחשמל עשוי לממן כמעט לבדו את הנכסים החדשים, ועל כך יתווסף הערך שיוחזר מהציוד הישן. "אם יש ערך בנכסים האלה, למה שלא נמשיך להפיק אותו?", שאל. הציוד שיוצא מהאצטדיון לא יגיע להטמנה, אלא לשוק המשני.

האצטדיון של טוטנהאם הוטספר בצפון לונדון. צילום: Yau Ming Low, ShutterStock

יש כאן תובנה שחשוב לא לפספס: אותו ציוד שכבר לא משתלם לטוטנהאם, משום שעלות החשמל והתחזוקה שלו גבוהה ביחס לחלופה החדשה, עשוי להיות משתלם מאוד עבור ארגון אחר עם עומסי עבודה צנועים יותר ותקציב מצומצם. זה בדיוק ההיגיון שהדגימה דיפסיק: חומרה שאינה החדשה ביותר עדיין יכולה לעשות עבודה רצינית, אם מתאימים לה את עומס העבודה הנכון. היא לא מתה, היא רק עוברת לשלב הבא במדרג השימושים. עוד בהקשר זה, כרים אבו דהאב, טכנולוג ראשי לטרנספורמציה בת קיימא ב-HPE, הוסיף שרוב האנרגיה שצורך ציוד מחשוב לאורך חייו נצרכת בשלב השימוש, ושה-AI רק מחריפה את המגמה. "כל שיפור ביעילות אצל הלקוחות מתורגם כמעט אוטומטית לשיפור בקיימות", אמר.

צריך להכיר במגבלות: מה שהצליח למעבדת מחקר בעלת יכולות הנדסיות חריגות כמו דיפסיק, או לקהילת קוד פתוח נלהבת, לא בהכרח מתאים לסביבת ייצור ארגונית, שזקוקה לתמיכה רשמית, לאחריות ולתחזית ביצועים יציבה

הנדסה הפוכה בקנה מידה תעשייתי

הסיור ברצפת המפעל עצמה – בהדרכת ג'קי רפרטי, מנהל התפעול של המרכז, ודיוויד קונל, מנהל ההנדסה – המחיש עד כמה הוא רחוק מדימוי של מחסן גרוטאות. רפרטי, שעובד באתר כמעט ארבעה עשורים, הזכיר שבימי "עמק הסיליקון הסקוטי" (בין שנות ה-70 לשנות ה-2,000 המוקדמות) פעלו בסקוטלנד כ-40 מפעלים של חברות אלקטרוניקה אמריקניות, וכיום נותר שם רק המרכז הזה. המרכז התחיל ב-40 אלף רגל רבוע ו-50 עובדים, והגיע ל-240 אלף רגל רבוע ו-200 עובדים. את הגדר ההיקפית הזיזו, לדבריו, שבע פעמים.

כבר 15.5 שנים מגיעים לאתר בממוצע 100-150 משטחים ביום. בשנת הכספים 2025 טיפלו מרכזי החידוש של HPE ב-4.3 מיליון נכסים ברחבי העולם, מתוכם 1.8 מיליון בארסקין לבדה. מתוך כ-1.5 מיליון רכיבי מרכזי נתונים שעובדו, 85% שווקו מחדש, ובציוד הקצה, יותר מ-300 אלף מחשבים ופריטים דומים, שיעור השיווק מחדש הגיע ל-97% (!). כ-90% מהתפוקה נמכרים לסיטונאים, והיתרה יוצאת כמוצרים מחודשים ומוסמכים של HPE, עם אחריות.

בחודש רגיל מעבדים בצד הזה של המפעל כ-150 אלף פריטים; בחודש שבו הגיעו מחשבי על ומרכזי נתונים שלמים, המספר הוכפל ל-300 אלף. דוגמה לכך היא מחשב העל Hawk של מרכז המחשוב הלאומי HLRS בשטוטגרט, גרמניה, שנכנס ב-2020 לרשימת ה-Top500 במקום ה-16: לפי המרכז, יותר מ-90% מהתשתית שלו חודשו ונמכרו מחדש דרך ארסקין, בין היתר ללקוחות מתעשיית התעופה והחלל.

קונל תיאר שני תהליכים שמתרחשים במקביל: ייצור הפוך, שבו מפרקים מערכות לרכיביהן, והשמשה מחדש, שבו מרכיבים אותן שוב ומריצים עליהן את כלי האבחון המקוריים של המפעל כדי לאמת תצורה, קושחה וביצועים. לדבריו, השאלות של הלקוחות השתנו לחלוטין: ב-2011 שאלו בעיקר כמה כסף יקבלו על הציוד, וכיום שתי השאלות הראשונות הן על שרשרת המשמורת ואבטחת המידע, ומחלקות הקיימות רוצות לדעת מה שיעור השימוש החוזר. בהתאם, כל העובדים באתר עברו סיווג ביטחוני של משרד ההגנה הבריטי, ולא בכדי: לדברי רפרטי, על אף שהחוזים מחייבים את הלקוחות למחוק את המידע לפני ההחזרה, ברוב המקרים הם פשוט לא עושים זאת. ולכן, מה שב-HPE מכנים "סניטציית מידע" הוא חלק חשוב בתהליך.

מה זה אומר למנהלי ה-IT?

התובנה המרכזית מהביקור היא שמחזור החיים של תשתית המחשוב הפך לסוגייה אסטרטגית, ולא רק לוגיסטית. ארגון שמתכנן כיום רכישת שרתי AI צריך לשאול מראש מה יהיה ערכם בעוד שלוש או ארבע שנים, ומי יקנה אותם. ארגון שמחזיק בצי של כרטיסי A100 או H100 צריך לבדוק אם הם עדיין יכולים לשרת עומסי הסקה, פיתוח ובדיקות או התאמת מודלים, לפני שהוא ממהר להחליף אותם. וארגון שמתמודד עם מחירי הזיכרון הנוכחיים יכול לשקול ציוד מחודש ומוסמך כחלופה לגיטימית, ולא כפשרה. כמאמר הסבתות: לא חייבים לקנות חדש.

יחד עם זאת, יש להכיר במגבלות: מה שהצליח למעבדת מחקר בעלת יכולות הנדסיות חריגות כמו דיפסיק, או לקהילת קוד פתוח נלהבת, לא בהכרח מתאים לסביבת ייצור ארגונית, שזקוקה לתמיכה רשמית, לאחריות ולתחזית ביצועים יציבה. ציוד ישן צורך יותר חשמל לכל יחידת עבודה ואבטחת המידע בשלב היציאה מהארגון נשארת באחריותו של הלקוח, גם כשהספק עושה עבודה טובה.

האריס סיכם את העניין במשפט אחד: "יש פוטנציאל עצום שלא מנוצל בתשתיות שארגונים כבר מחזיקים". בעולם שבו כל שבב חדש נחטף עוד לפני שיצא מהמפעל, הסיפור של דיפסיק וה-H800 המוגבלים שלה, ושל המשטחים שנכנסים מדי יום בשערי המפעל בארסקין שבסקוטלנד, הוא אותו סיפור בדיוק: החומרה של אתמול אינה פסולת. לעתים קרובות היא פשוט מחכה לבעלים הבאים שלה.