"ארגון לא יכול להרשות לעצמו להסתפק ב-AI שצודקת ב-90% מהמקרים"

MongoDB – מחברות הדאטה-בייס הגדולות בעולם – קיימה את כנס MongoDB.local Tel Aviv, שבו השתתפו מאות מפתחים ומפתחות, מנהלי טכנולוגיה, מקבלי החלטות עסקיות ונציגים מסטארט-אפים ומארגונים. הכנס הוקדש כולו לשאלה אחת: איך לוקחים סוכן AI שעבד טוב ב-דמו, ומטמיעים אותו בעבודת הארגון בצורה יעילה ומבוקרת.

"בשנה האחרונה ה-AI הפכה להרבה יותר מסתם באזוורד", אומרת גבריאלה כהן, סגנית נשיא לאזור ישראל, מדינות צפון אירופה ובנלוקס ב-MongoDB. "אחד מהמשתתפים אמר בכנס ש-99.9% מהקוד שלו נכתב על ידי סוכנים. זה שינוי יסודי שהתרחש בזמן קצר מאוד".

משה רביב, מנהל ארכיטקטורת פתרונות של MongoDB בישראל, מסמן את נקודת הזמן: "הרבה ארגונים כבר הפסיקו להתנסות. עכשיו הם צריכים לתרגם את זה למוצר שמגיע ללקוחות שלהם, ולכן זה גם צריך לעמוד בסטנדרטים מסוימים".

משה רביב, מנהל פתרונות ארכיטקטורה של MongoDB בישראל. צילום: גיא סידי ומיכאל נווה

Atlas Agent Engine: "ההכרזה הדרמטית ביותר"

מבין שלוש ההכרזות של החברה על מוצרים חדשים שמתאימים לארגונים בעידן ה-AI, כהן מגדירה את Atlas Agent Engine כדרמטית ביותר. "זו פלטפורמה לניהול סוכנים מקצה לקצה: ה-guardrails, ניהול העלויות, האבטחה והחיבור לדאטה", אומרת כהן. "זו הפעם הראשונה ש-MongoDB משחררת מוצר שלא תלוי במסד הנתונים שלה. הוא יכול להתחבר לכל מקור מידע".

איך זה עובד בפועל? כהן נותנת דוגמה ממערכת החזרים כספיים: "אני מגדירה לסוכן מה מותר לו לראות ומה מותר לו לעשות. למשל, עד 50 דולר הוא מחליט לבד אם לזכות את הלקוח. מעל 50 דולר, הוא מעביר את זה לאישור של אדם".

רביב מסביר למה ארגונים לא צריכים לבנות את כל זה לבד: "בלי פלטפורמה כזו, לפני שהתחלת לעבוד על האיכות של הסוכן שלך, אתה צריך לפתח אבטחה, ניטור, guardrails ושליטה על מה שהסוכן ניגש אליו בארגון. אני רוצה שהארגון יתמקד בכמה שהסוכן שלו איכותי, ולא בכמה שהוא מאובטח או סקיילבילי. בדברים האלה אנחנו יודעים לטפל".

Atlas Infinite: "השינוי הארכיטקטוני המשמעותי ביותר שעשינו"

רביב מתאר את Atlas Infinite כ"שינוי הארכיטקטוני הכי משמעותי שעשינו אי פעם". 

"אנחנו מפרידים בין כוח המחשוב לאחסון", הוא מסביר. "כשצריך להוסיף שרת כדי לעמוד בעומס, הדאטה לא צריך לזוז לשום מקום. זה אומר גמישות, מהירות, ועלות הרבה יותר נמוכה".

מה זה נותן לקופות חולים, לחברות ביטוח ולבנקים? "עוד לפני המוצרים החדשים, פלטפורמת הדאטה הפכה לקריטית עבורם", אומרת כהן. "המודל צריך לרוץ על דאטה. ככל שהדאטה מסודר ונגיש יותר למודלים, התוצאות טובות יותר והעלויות נמוכות יותר. אצל ארגונים מסורתיים, הדאטה הרבה פעמים תקוע במערכות ישנות".

ובארגונים מפוקחים, מוסיף רביב, פלטפורמה שכבר עומדת בתקנים חוסכת חלק גדול מהעבודה: "בבריאות ובפיננסים יש רגולציה ממש מוגדרת. אם השכבה שלך כבר מגיעה עם תעודת עמידה בתקן, עברת חלק מהביקורת שאתה צריך לעבור".

גם רמת הטעויות שארגון יכול לסבול שונה לגמרי. משתמש פרטי יכול להסתפק ב-AI שצודקת ב-90% מהמקרים, אבל ארגון לא יכול להרשות לעצמו את זה. "המקום של האיכות הוא האופן שבו אתה ניגש לדאטה הארגוני שלך", אומר רביב. "זה מה שאמור לדייק לך את התוצאות".

לסטארט-אפים, לדברי כהן, הגמישות היא העיקר: "לא להיות תלויים באף ספק ענן, והיום גם לא בענן בכלל. אנחנו רואים מגמה חזקה, בטח באירופה, של חברות שרוצות שהדאטה וה-LLM ירוצו אצלן. היכולת לרוץ בענן, אצל הלקוח או במרכז נתונים, עם אותן יכולות בדיוק, היא קריטית".