"אנו נכנסים כעת לעידן של AI מתוחכמת בקצה"

"היכולת לעבד נתונים באופן מקומי ממכשירים, ממצלמות חכמות ומהתקני מחשוב תעשייתיים קטנים, פותחת גל חדש של יישומים הפועלים בזמן אמת, זריזים ומאובטחים. בעוד שבינה מלאכותית בקצה הרשת התמקדה בעבר במודלים פשוטים, אנו נכנסים כעת לעידן של AI מתוחכמת בקצה, שבו מודלים גדולים וחזקים יותר הם לא רק אפשרות – אלא מציאות. זו פרדיגמה חדשה לבינה מלאכותית. טכניקות חדשניות, לצד גישה הנדסית הוליסטית, המתמקדת במוצר הסופי – מסייעת בהפיכת פתרונות AI מתקדמים אלה למוצרים", כך אמר יואל יעקבסן, CTO בהייפר גלובל (Hyper Global).

יעקבסן דיבר בכנס שערכה דל ישראל (Dell Israel) בשבוע שעבר, בהפקת אנשים ומחשבים, באקספו תל אביב, בהשתתפות יותר מ-1,000 נציגי לקוחות החברה ושותפיה העסקיים.

"האתגר העיקרי של בינה מלאכותית בקצה הרשת", ציין, "היה תמיד הפשרה בין מורכבות המודל ליכולות המכשיר. מכשירי קצה, מטבעם, מוגבלים בכוח המחשוב, בזיכרון ובכלכלת האנרגיה שלהם. עם זאת, כמה טכניקות חדשניות שוברות את המחסומים הללו, ומאפשרות לפרוס מודלים חזקים, באופן מפתיע – בסביבות מוגבלות אלו".

אחת האסטרטגיות היעילות ביותר היא דחיסת מודלים, הסביר יעקבסן. "טכניקה זו כוללת שיטות כמו קוונטיזציה וגיזום. קוונטיזציה מפחיתה את רמת הדיוק של המספרים המשמשים בחישובי המודל, ומקטינה משמעותית את גודל המודל ואת דרישות המחשוב שלו, עם השפעה מינימלית על הדיוק. גיזום כרוך בהסרת קשרים או נוירונים מיותרים מהרשת הנוירונית, בדומה לגיזום עץ לענפיו החיוניים, לטובת מודל קטן, מהיר ויעיל יותר".

מאפשרת אוטומציה מבוססת AI המבוצעת כולה בקצה. בינה מלאכותית אג'נטית בקצה. צילום: ShutterStock

זיקוק ידע ובינה מלאכותית אג'נטית

"טכניקה חזקה נוספת היא זיקוק ידע", אמר יעקבסן, "דמיינו מודל 'מורה' גדול ומורכב, שאומן על מערך נתונים עצום בענן. מודל זה מחזיק בהבנה עמוקה של המשימה הנדרשת. זיקוק ידע הוא תהליך העברת ה'ידע' הזה למודל 'תלמיד', קטן ויעיל בהרבה. המודל לומד לחקות את התפוקות של המורה, ויורש את יכולותיו בצורה קומפקטית. כך ניתן לפרוס מודלים מדויקים מאוד על מכשירי קצה".

"במקום לפרוס מודל מונוליטי לשימוש כללי", הוסיף, "ניתן לקחת מודל קטן יותר שאומן מראש, ולכוונן אותו בעדינות למשימה או סביבה ספציפית. המודל כבר למד תכונות כלליות ממערך נתונים גדול, ועובר אימון מחדש רק של השכבות האחרונות שלו, על מערך נתונים קטן יותר וספציפי למשימה. זה יעיל משמעותית מאימון מודל מאפס, ומאפשר התאמה מהירה לנתונים חדשים או לתנאים משתנים בקצה הרשת".

"בינה מלאכותית סוכנית (Agentic Al) בקצה", ציין, "מאפשרת אוטומציה מבוססת AI המבוצעת כולה בקצה. סוכנים חכמים יכולים לקבל מידע על הסביבה, להסיק מסקנות לגביה ולנקוט בפעולות אוטונומיות. AI אג'נטית בקצה היא המפתח לפתיחת אוטונומיה אמיתית במגוון רחב של יישומים, בלא הצורך להחלטות מבוססות AI בענן".

"פיתוח מודל בינה מלאכותית חזק לקצה הוא רק חצי מהדרך. האתגר האמיתי טמון בפריסה, בניהול ובתחזוקה של מודלים אלה בסביבת ייצור אמיתית. כאן נדרשת אסטרטגיית הפיכה למוצר הוליסטית", אמר.

לדברי יעקבסן, "יש כמה שיקולים מרכזיים באסטרטגיית ההפיכה למוצר: חומרה יעילה ואמינה ואינטגרציה בין רכיבי החומרה; ניהול צי של אלפי מכשירים בקצה, הדורש פלטפורמה מרכזית לניהול, פריסת מודלים וניטור שלהם, עם עדכונים מהאוויר (OTA); אוטומציית תפעול, כדי לאסוף, לעבד ולהשתמש בנתונים".

"שילוב של טכניקות בינה מלאכותית מתקדמות ואסטרטגיה מקיפה להפיכה למוצר", סיכם יעקבסן, "מאפשר לממש את מלוא הפוטנציאל של בינה מלאכותית עכשווית בקצה. הקפדה על עדכניות טכנולוגית, לצד אסטרטגיית מוצר הוליסטית – מאפשרת עתיד של מערכות חכמות ואוטונומיות, שישנו תעשיות ואת חיי היומיום שלנו".