העתיד של ה-AI הוא צוותים של סוכנים

המעבר מסוכן AI יחיד למערכת של סוכנים שמשתפים פעולה, מחלקים ביניהם משימות ומשפרים את עבודתם לאורך זמן עמד במרכז הרצאתו של דרור מזרחי, CTO ומנהל מעבדה ב־Toga Networks, זרוע המחקר והפיתוח של וואווי בישראל, בכנס Future of AI. מזרחי הציג את OpenJiuwen, פלטפורמת קוד פתוח שנועדה לבנייה ולהפעלה של מערכות מרובות סוכנים בסביבת ייצור. ניצן קמחי, מהנדסת תוכנה בטוגה, הצטרפה אליו בחלק ההדגמה והציגה יישום שנבנה באמצעות הפלטפורמה.

כדי להמחיש את הרעיון, מזרחי השווה מערכת רב־סוכנית לקבוצת כדורגל: גם לאונל מסי אינו יכול לבדו לספק את התוצאה שמשיגה קבוצה של בעלי תפקידים ומיומנויות שונות. לדבריו, אותו עיקרון חל על סוכני AI. במקום להסתמך על סוכן יחיד, ניתן לבנות צוות שבו כל סוכן מקבל תפקיד, מבצע חלק מהעבודה ומשתף את התוצאה עם יתר חברי הצוות.

מה עוצר את סוכני ה־AI בדרך לפרודקשן?

במהלך ההרצאה ערך מזרחי סקר חי בקרב הקהל ושאל מה חוסם כיום את השימוש בסוכני AI בסביבות ייצור. 127 משתתפים השיבו לסקר, שבו ניתן היה לבחור יותר מתשובה אחת. החסם הבולט ביותר היה אמינות ודיוק, עם 57% מהמשיבים, ואחריו אבטחה וממשל עם 54%. עלות, זמני תגובה ויכולת הרחבה קיבלו 34%, וכך גם מבנה ארגוני ותהליכי עבודה. הקשר וזיכרון נבחרו בידי 24% מהמשיבים, ותיאום בין סוכנים בידי 20%.

לדברי מזרחי, התוצאות ממחישות את הפער בין POC מרשים לבין מערכת יציבה שאפשר להפעיל לאורך זמן. הוא מנה בין הקשיים הזיות של מודלים, ירידה באיכות כאשר חלון ההקשר מתרחב, צריכת טוקנים גבוהה, סיכוני אבטחה והצורך לחבר את הסוכנים לכלים ולמערכות ארגוניות. סוכן AI, הסביר, אינו רק ממשק שמקבל שאלה ומחזיר תשובה, אלא מערכת שצריכה להבין את מטרת המשתמש, לתכנן פעולות, להפעיל כלים, לבחון את התוצאות ולתקן את עבודתה. לשם כך נדרשים מודלי בסיס, זיכרון, אחזור מידע, מיומנויות לשימוש חוזר, חיבורים למערכות חיצוניות, תצפיתיות ומנגנוני ממשל ואבטחה.

צוות סוכנים עם זיכרון משותף

OpenJiuwen מאפשרת לפרק מטרה לתת־משימות, להקצות אותן לסוכנים שונים ולנהל את העברת המידע והתוצרים ביניהם. המערכת כוללת גם אפשרות לשלב אדם בתהליך, כדי שיוכל לבחון את ההתקדמות, להתערב ולאשר פעולות. לדברי מזרחי, הפלטפורמה מיועדת לעבודה מבוזרת וכוללת רכיבים לניהול תהליכים, משימות, מיומנויות, זיכרון, ניטור ותצפיתיות. ניתן לחבר אותה לערוצים ולממשקים שונים, ובהם ווב, כלי שורת פקודה, סלאק, דיסקורד ווואטסאפ.

מזרחי תיאר גם מנגנון זיכרון היררכי שכולל פרופיל משתמש, זיכרון של אינטראקציות קודמות, זיכרון סמנטי ואחזור חכם. המטרה היא לבחור את המידע הרלוונטי לכל משימה ולשמור על הקשר שימושי, במקום להעמיס על המודל את מלוא היסטוריית הפעילות. את השם Jiuwen, שפירושו "תשע שאלות", הוא קשר לרוח של אמרה המיוחסת לקונפוציוס: להיות להוטים ללמוד ולעולם לא להתבייש לשאול. לדבריו, הרעיון הזה משקף את מה שמצפים מסוכן AI לעשות, לא להסתפק בתשובה הראשונה אלא להמשיך לחקור, לתכנן ולחבר את הנקודות בדרך לפתרון.

Cortex אמורה לנהל את התזמורת

בחלק נוסף של ההרצאה הציג מזרחי את Cortex, שכבת קבלת החלטות שנמצאת בפיתוח ומיועדת לפעול מעל סביבת ההרצה. מטרתה לנהל את עבודת הסוכנים בתחומים כמו תכנון, בחירת מודלים וכלים, ניתוב משימות, זיכרון, התאוששות מתקלות, ממשל ובקרה. בשקף הובהר כי המערכת עדיין עתידית והוגדרה כ־Coming Soon.

במצגת הוצגו יעדים של הפחתה בשיעור של 40%–70% בעלות למשימה, קיצור זמן ההגעה לפתרון פי 3–10, שיפור של 50%–80% בשיעור הצלחת המשימות והגדלת פרודוקטיביות הסוכנים פי 5–10. יעד נוסף שהוצג הוא עקיבות ויכולת ביקורת בשיעור של 100%. מדובר ביעדי מוצר כפי שהוצגו על הבמה, ולא בתוצאות מחקר או במדידות של מערכת זמינה, אך הם ממחישים את הכיוון שאליו מבקשת טוגה לקחת את הפלטפורמה: שכבה שמפקחת על צוות הסוכנים ומחליטה כיצד להפעיל אותו בצורה יעילה ובטוחה יותר.

חמישה סוכנים בונים סיפור ילדים

בחלק ההדגמה הציגה קמחי מערכת ליצירת סיפורי ילדים. המשתמש יכול להזין רעיון קצר, לבחור סגנון ולבקש מהמערכת ליצור סיפור מאויר. מאחורי הממשק פעלו חמישה סוכנים עצמאיים: כותב, מבקר, מנהל אמנותי, מחולל תמונות ועורך. לדברי קמחי, המבקר בודק אם הסיפור מתאים לילדים, אם הטקסט איכותי ואם התמונות אינן מפחידות. כאשר תמונה אינה עומדת בדרישות, המערכת יכולה לדחות אותה ולייצר גרסה מתאימה יותר.

המשתמש יכול לערוך את התוצאה, לבקש יצירה מחודשת של הטקסט או התמונות, להאזין להקראת הסיפור בקצב מותאם ולשמור אותו בכמה פורמטים. למפתחים מוצג גם המידע שעבר בין הסוכנים וההחלטות שהתקבלו לאורך התהליך. ההדגמה חיזקה את המסר המרכזי של מזרחי: השלב הבא של ה־AI אינו מבוסס רק על מודל שמייצר תשובה, אלא על צוות של סוכנים בעלי תפקידים שונים, שפועלים על בסיס הקשר משותף, בודקים זה את זה ומתכנסים לתוצאה אחת.