"מעבר ה-AI לקצה – צעד טבעי, וצורך"

"אנחנו רואים את המעבר לבינה מלאכותית במכשירי קצה כצעד טבעי, שנובע מהצורך לעבוד עם AI כחלק אינטגרלי מהאפליקציות היומיומיות, ולא רק בענן. Edge AI הוא כבר לא נישה – כי אם צורך ממשי במוצרי קצה", כך אמר אלכס פינקל, מהנדס אפליקציות בכיר בהיילו (Hailo).

פינקל דיבר בכנס שערכה דל ישראל. הכנס, בהפקת אנשים ומחשבים, התקיים אתמול (ב') במרכז הכנסים אקספו בתל אביב, בהשתתפות יותר מאלף לקוחות החברה ושותפיה העסקיים. פינקל שוחח עם אלי רוזנס, יועץ בכיר לניהול מוצר בסניף המקומי של ענקית ה-IT, על מגמת המעבר של הבינה המלאכותית לקצה, ועל שיתוף הפעולה בין החברות.

באחרונה הציגה חברת היוניקורן הישראלית שבב בינה מלאכותית ראשון מסוגו, שמאפשר להריץ כלים של בינה מלאכותית יוצרת (GenAI) בשבב עצמו, מבלי להזדקק למודלי ה-AI הענקיים בענן.

"מגמה זו, של המעבר של AI לקצה", ציין פינקל, "מתאפשרת הודות למודלים שהולכים ונהיים קטנים יותר – אך שומרים על אותה רמת דיוק ויעילות. השילוב הזה מאפשר להריץ אותם על מכשירי קצה, דוגמת מחשבים של דל (Dell Technologies) וכך – להפוך את ה-AI לחלק בלתי נפרד מהחוויות היומיומיות של המשתמשים".

"במחשבי דל שולבו מאיצי AI של היילו"

"המעבר אל הקצה", הסביר פינקל, "הופך את הבינה המלאכותית לאינטראקטיבית, זמינה וגם בטוחה יותר. כאשר מפעילים את המודלים באופן מקומי, מתקבלים יתרונות כלכליים בזכות חיסכון באנרגיה ובעלויות, זמינות רציפה של כלים ושירותים חיוניים, תגובתיות גבוהה יותר, שמשפרת את חוויית המשתמש. גם סיכונים אישיים ועסקיים מצומצמים בכל הנוגע לשימוש בדאטה רגיש – על בסיס המכשיר עצמו ובלא תלות בענן".

פינקל תיאר את שיתוף הפעולה בין ענקית ה-IT וחד הקרן של השבבים: "היילו ערכה שיתוף פעולה עם דל, במסגרתו במחשבי החברה שולבו מאיצי AI של היילו, הכוללים יכולות מתקדמות של GenAI. כשחברות גלובליות – ודל ביניהן – בוחרות לשלב את הטכנולוגיה שלנו, זו לא רק הבעת אמון, אלא בחירה אסטרטגית".

לדברי פינקל, "שילוב המאיצים במחשבים מאפשר לארגונים לייצר אקו-סיסטם אחיד לאנליטיקות מבוססות AI, מהמצלמה, דרך מחשבי הקצה ועד הענן".

פינקל סיים בהציגו בכנס את VLM (ר"ת Visual Language Model) – מודל אשר משלב עיבוד וידיאו עם מודל שפה גדולה, ומאפשר ניתוח סצנות וידיאו בשפה טבעית, הבנת סיטואציות מורכבות וזיהוי אירועים חריגים בזמן אמת.