"פיתחנו מערכת לבדיקה עצמית: ללמוד איך לנהל את הסוכנים ולדייק"

"המטרה שלנו היא קודם כל לעשות עם הדאטה וה-AI דברים שמעניקים ערך ללקוחות, ובעיקר לקוחות ה-DevOps, וזה מה שאנחנו בודקים שאנחנו עושים בכל גרסה, עד כמה אנחנו משפרים, ואנחנו עושים את זה במקביל לשיתופי פעולה עם הגדולים בתעשייה", כך אמר רועי דיין, סגן נשיא לדאטה ו-AI בחטיבת המחקר והפיתוח של אמדוקס בדבריו במהלך הכנס השנתי של עמותת בוגרי ממר"ם שנערך לאחרונה בהפקת אנשים ומחשבים.

דיין היה אחד מכמה דוברים של אמדוקס, שהציגו את הפתרונות המעודכנים של החברה לעידן ה-AI בכלל, וליישומים של AI מבוססי סוכנים במיוחד.

כך, לדוגמה, הוא סיפר כי, "יש לנו ערכות כלים שמספקות מערך סוכנים מקצועיים ומאוד ספציפיים למטרה – בין אם מדובר בשימור לקוחות, בין אם מדובר בענייני מסחר, וגם אם יש צורך במענה לתקלות שיש במערכת או ישירות אצל לקוחות הקצה. כל המערך הזה מבוסס על מודלים של AI, שאומנו על בסיס הידע הרב שצברנו בשלושים השנים האחרונות, והוא מוגש מעל כל המוצרים והמערכות שיש לחברת טלקום, וזה יכול להגיע עד לקנה מידה של עשרות מערכות שמקושרות למערך הטכנולוגי".

דיין הוסיף: "פיתחנו מערכת מדדים לבדיקה עצמית. אנחנו משתמשים בה כדי לבחון כל מודל חדש לפי מספר קטגוריות שחשובות לנו בתוך סוכני הטלקום לביצוע המשימה. ובסופו של דבר זה גם מסייע לנו ללמוד איך לנהל את הסוכנים הללו, לדעת להעביר מידע מאחד לשני, כמובן חשוב מאוד – לדייק".

נועה פרנקו אוחנה, מנהלת מובילה בתחום ה-GenAI באמדוקס. צילום: ניב קנטור

נועה פרנקו אוחנה, מנהלת מובילה בתחום ה-GenAI בחברה, הצטרפה אליו לבמה כדי לומר כי, "מנכ"ל אנבידיה הדגיש את השותפות עם אמדוקס כחברת טלקום מובילה, ואנחנו מאמינים מאוד בשיתופי פעולה. אחת הדילמות הראשונות היא השאלה האם להשתמש במודל שלכם מוגדר, או לבצע שימוש ב-LLM היישר מהקופסה. אנחנו משתמשים בכמה מודלים כדי לבחור את מה שהכי מתאים והכי טוב לבעיה שעומדת לפנינו, ומעבר לכך לפעמים ללקוחות יש נטייה למודל מסוים. בכל מקרה, אנחנו רוצים להיות כמה שיותר גמישים ולכן אנו משתמשים ב-LLM ציבורי ואנחנו לא מטמיעים את ה-AI בשכבת ה-LLM אלא בשכבת הסוכן עצמו. כך אנו יכולים להעניק חדשנות במהירות בלי לבנות מחדש".

אלי בירנבאום, מנהל תחום המחקר והפיתוח באמדוקס. צילום: ניב קנטור

לא רק חיסכון בכסף, אלא גם קיצור זמן הפיתוח – שניהם עד 80%

אלי בירנבאום, מנהל תחום המחקר והפיתוח באמדוקס, דיבר על הדרך בה טכנולוגיית GenAI והפלטפורמה של החברה מעצבים את העתיד ההנדסי.

"שיטת הפיתוח שלנו בנויה על כך שאנחנו יוצרים פלטפורמה שמעליה שכבות של מוצרים, שאותם הלקוחות לוקחים ומתאימים לצרכים שלהם. זה רוב מוצרי החברה. מה הבעיות שנתקלים בהן? שכשרוצים לתת מוצר כזה אז נכנסים לסוג של מרוץ שליחים, וחלק גדול מהדברים שמפתחים יושבים במקומות שאין בהם צוות מקצועי, וקשה למצוא את האדם שמציע את הפתרון בחברה. כמו כל אחד שמפתח פלטפורמה, צריך לדעת כמה יכולות משקיעים בארגון הקולט, כדי לעשות את זה היטב", הוא אמר.

כדי להסביר מה זה לעשות את זה היטב, פירט בירנבאום כי "באופן פונקציונלי אנחנו יכולים לבנות כלים מלאים באמצעות הפלטפורמה שלנו, ואנחנו עוזרים למפתחים לבנות מהר וטוב יותר את הפתרונות שהם זקוקים להם. איך זה משפיע על העלויות? הסיפור הוא לא רק חיסכון בכסף – גם אם זה יכול להגיע עד 80% – אלא הוא גם כיצד מקצרים את זמן הפיתוח, וגם זה עומד על 80%. זה סיפור גדול לקחת את המהפכה של ה-GenAI לעומק עם פיתוח שרץ מהר יותר, גם טוב יותר, ומציע ערך טוב יותר. זה מה שאנחנו בונים כרגע", הוא סיכם.

יניב מרום נחמני, ארכיטקט מוביל באמדוקס. צילום: ניב קנטור

יניב מרום נחמני, ארכיטקט מוביל באמדוקס, הזכיר שצריך גם קצת להיזהר. "עד כמה שהם מרגשים ומרתקים, הסוכנים הכניסו גם הרבה בעיות חדשות. שוב עולות שאלות כמו איך מטפלים באבטחה, לדוגמה, וזה שלב מעניין מאוד שממציאים הרבה דברים וכלים. כדי לפתור את הבעיה אנחנו מנסים לתת כלים שבנויים אל תוך המסגרת, על מנת לספק חוויה של פיתוח לא רק לאנשי תוכנה. אנחנו רוצים לתת את זה פנים-ארגונית, כשאנחנו מוסיפים את יכולות האבטחה שלנו על גבי הכלים האלה", הוא ציין.