הישראליות ב-CES: בינה בקופסה

CES, תערוכת הטכנולוגיה הגדולה בעולם, ננעלה ביום ה' האחרון, וכמובן, הייתה עמוסה בפיתוחי בינה מלאכותית. המגמה הבולטת בתערוכה לא הייתה ChatGPT ודומיו, אלא מה שנקרא "בינה מלאכותית במכשירי קצה", או Edge AI, בעגה המקצועית. עיקר העניין היה בהטמעה של מודלי בינה מלאכותית קטנים (יחסית), מקומיים, שרצים על חומרה מקומית, בלי צורך בגישה לאינטרנט.

אחרי הכישלון המהדהד של סיכת ה-AI של humane.ai, במשך חודשים, החברות בתחום די פחדו לצאת עם התקני AI לבישים ומקומיים, אבל ב-CES השנה נראה שהעסק מתחיל להבשיל: מוטורולה, למשל, יצאה עם ספק תכשיט ספק שרשרת עם תליון שכולל בתוכו בינה מלאכותית מקומית. באופן מפתיע, לחברות הישראליות יש נוכחות משמעותית בשדה החדש והמלהיב הזה של Edge AI. בחרנו להתמקד באחת מהן, ולהזכיר חברה נוספת.

הכירו את היילו, שהיא חלק מקומץ חברות שמפתחות מעבדי בינה מלאכותית (מה שנקרא גם מעבדים נוירוניים, או NPU), שמסוגלים להריץ מודלי AI קטנים ומקומיים, ללא צורך בגישה לאינטרנט. ב-CES הציגה החברה הישראלית הציגה שורה של פיתוחים בתחום בינת הקצה. המלהיב שבהם, בעייני לפחות, הוא בינה מלאכותית בקופסה, שאפשר לחבר דרך חיבור USB סטנדרטי, ולהוסיף יכולות AI גם למחשבים ישנים יותר שלא מצוידים במעבדים נוירונים מובנים – כצו האופנה של השנתיים האחרונות. זאת, בדומה למוצר של מעבדים גרפיים עוצמתיים בקופסה חיצונית, שגיימרים יכולים לחבר למחשב שלהם כדי לאפשר לו יכולות עיבוד גרפיות חזקות – אלא שהדבר הזה דורש לא פעם חיבור מיוחד.

היילו הציגו בתערוכה מוצר שכזה, ביחד עם ענקית המחשבים הטאיוואנית אסוס, בשם הלא סקסי בעליל UGen 300. ברם, הקופסה הזו תאפשר לכל מי שרוצה להריץ מודלי בינה מלאכותית מקומיים, מכל סיבה שהיא – היעדר חיבור לאינטרנט, רגישות המידע המעובד ומהירות יותר גבוהה בעיבודים מורכבים (שוב, יחסית, משום שאי אפשר להשוות את המודלים הללו בגודל ל-LLM שרץ על ארונות מפלצתיים של אנבידיה). באופן דומה, היילו עובדת עם חברת המחשבים הקטנים והזולים רספברי פאי, והשתיים מציעות מודול חומרה שאפשר להרכיב על הלוחות של החברה, ולקבל יכולות AI.

דניה גולן, סמנכ"לית השיווק של היילו, מסבירה בשיחה עם אנשים ומחשבים שכך, למשל, אפשר להריץ מקומית מודל ראייה שיודע לזהות תוכן של סרטונים ולתאר אותם מילולית, או ניתוח של סרטוני אבטחה ממצלמות.

מודל שמאפשר לתמלל סרטים – וגם להתריע כשהכלב עולה על הספה

"החידוש הגדול הוא שהפתרון שלנו יודע לעשות צ'ט ו-VLM (ר"ת Vision-language Model, מודל ראייה-שפה – נ"ל). הוא משלב מודל LLM שמאפשר ניתוח של וידיאו על מנת להבין מה מתרחש בסצנה, לסכם אירועים חשובים או להתריע על אירועים ספציפיים. אתה גם יכול להגיד לו: תתריע לי כשהילד חוזר מבית הספר, שהכלב עולה על הספה או כאשר השליח של וולט מגיע", אומרת גולן. המעבדים של היילו משמשים גם מכשירי קצה אחרים, כמו מכסחת דשא אוטונומית, שמשתמשת במעבד של החברה לצורך ראיית מכונה ונהיגה אוטונומית, או מערכות שיקוף, שיכולות לסרוק תיקים במהירות באתרים עם קהל גדול ולאתר כלי נשק, מבלי ליצור עיכובים משמעותיים בתור.

המודל יתריע בפניכם כשללאו שוב יתחשק לרבוץ על הספה. צילום: Stock-asso, ShutterStock

"המטרה היא להביא בינה מלאכותית לידיים של כל מי שרוצה בכך, וזה נתמך בקהילה שהקמנו בעקבות שיתוף פעולה עם רספברי. חברים בה מעל 100 אלף משתמשים שמעלים קוד, שואלים שאלות ומדברים אחד עם השני", מוסיפה גולן. הכול, אגב, חינמי ובקוד פתוח, וכל אחד יכול להוריד מודלים מוכרים כמו כאלה של OpenAI, או Llama של מטא, כאוות נפשו.

ואם בקוד פתוח עסקינן, שווה להזכיר את לייטריקס הישראלית, שהייתה חלק מההכרזות של אנבידיה ב-CES השנה. החברה מירושלים שחררה את מודל הווידיאו LTX-2, שהוא מודל עיבוד ויצירת טקסט, תמונות ו-וידיאו, שכולל גם משקולות פתוחות. כלומר, היוצרים והמתכנתים יכולים לשחק "עם הקרביים" של המודל, בניגוד למודלים אחרים. גם כאן מדובר בפיתוח ישראלי שמשלב ידיים עם ענקית טכנולוגיה מוכרת. איך אומר עודד בן עמי בחיקוי שלו בארץ נהדרת? גאווה ישראלית.