כיצד לעבור ממערכות AI שמספקות תובנות והמלצות לסוכני AI?

"אחת השאלות שעולה די הרבה לאחרונה היא איך להשתמש נכון בפלטפורמת קוד בסיס/ללא קוד כדי ליצור סוכן לרמה הארגונית שהינו מאובטח יחסית. הרי מה יכול להשתבש? נו, ברור שהרבה מאוד דברים אם נותנים לסוכנים חופשיות רבה מדי. המטרה שלנו היא לתת לכם את הכלים שיאפשרו לכם לצפות את הבעיות מראש ולמנוע אותן לפני שהמשתמש כבר משתמש בסוכנים. וזה לא רק ברמת הסוכן עצמו, זה יכול להיות חשיפה של מקורות מידע, הטיה וכיוצא בכך, ויש השפעות לא רק על הסוכן, למרות שהוא נמצא ברובד הראשון", כך סיפר טל נאמן, ארכיטקט פלטפורמות דאטה ו-AI ביבמ ישראל.

נאמן אמר את הדברים הללו במסגרת סדנת ה-AI הסוכנית של יבמ לארגונים גדולים, שנערכה במסגרת כנס "נימבוס רובד 5" הגדול של אנשים ומחשבים שנערך בשבוע שעבר באולמי לאגו בראשון לציון.

לפי נאמן, מטרת הסדנה הייתה להציג כלים לארגונים גדולים שמעוניינים לעבור לשלב הבא של ה-AI, ממערכות AI שמספקות תובנות והמלצות למערכות אוטונומיות, יוזמות ומונחות-מטרות, הפועלות כחלק אינטגרלי מהארגון – או בקצרה, סוכני AI.

לדבריו, ליבמ יש מקורות מידע על כל הסיכונים האפשריים להכנסה של סוכני AI, ובמיוחד היא מציעה את ההבנה כי, "ברמת הסוכן חשיפת מידע לא טובה, פתיחה של צוהר להזרקת קוד מטעה, יכולים להתרחש בגלל גישה למקורות מידע ולכלים מסוימים בחוסר אחריות, ואני כמובן רוצה שלא יפגעו בהם. עולם הדאטה אולי נשאר כמות שהיה, אבל עדיין צריך לשדרג כדי שיהיה ממוטב וגם מוגן לצורך שימושי הסוכנים, וכמובן, מי שלא מכנסי ריבונות לסיפור כדי לעבור ביחד על הכל, יוצר בעיה מיידית".

הוא הסביר שההכנה של סוכן באופן אישי באמצעות הפלטפורמה שמציעה החברה, WatsonX, הינה פשוטה יחסית למרות העושר של כלים ראשוניים, או דגלים. "יש בה למעלה מ-300 דגלים בתחומים רבים, מ-HR עד כספים, ולא חסרים חיבורים. אמנם בתור התחלה צריך לתת רק שם ותיאור לסוכן שרוצים לבנות, אבל כבר ברמה הזו התיאור חשוב מאוד, כי הוא משמש את ה-AI להבין בדיוק מה המשתמש רוצה. צריך גם לבחור בשלבים הראשונים את החיבורים למאגרי, וגם להגדיר להם פרומפטים ראשוניים, וגם אם זה נשמע הרבה, זה לוקח ממש רק כמה דקות – עשר דקות עבודה ואפילו לא יותר".

הוא סיפר שלאחר הפריסה של הסוכן, כל משתמש שיש לו גישה לסוכן הזה יכול להשתמש בו. הוא הזכיר עם זאת שלאחר מכן צריך ניטור, ושהמערכת מציע כחלק מובנה סריקה בזמן אמת של כל הסוכנים הפעילים תוך בדיקה מה הם עושים, כמה שימוש נעשה בהם, ואפילו מאפשרת לבחון את רמת הביקוש ל-API ועוד נתונים שמאפשרים לאחר מכן לשפר את הסוכנים עוד יותר.

"מכיוון שזו מערכת שבונים איתה סוכנים שמיועד לארגונים, מראש מובנית בה התנהגות זהירה ברמה גבוהה יותר על מנת למנוע דברים שלפעמים צ'אטבוטים עושים. יש הרבה מאוד הגנה עצמית מובנית שתמנע, למשל, הוראות שיכולות לגרום להוצאת מידע לא חוקי, ולא צריך לעשות שום דבר מיוחד כדי להבטיח את זה. המערכת שאנחנו מציעים גם מסוגלת לבחון את הסוכן עצמו כדי לאתר בעיות, וזה ברמת הריבונות, ואפשר בנוסף להגדיר בתזרים העבודה שבסופו של דבר יהיה אדם בלולאה שייתן את האישור להרצה של הסוכן", אמר נאמן.

לסיום הוא סיפר, כי "אחד הדברים הכי מעניינים שאנחנו מתכוונים להשיק עוד השנה הוא מה שאנחנו מכנים בינתיים Project BOB. למעשה זהו סוג של וייב קודינג, שמאוד מוכן לשימוש עם הכלים של יבמ, שעושה משהו מאוד מיוחד וזה גם יכולות שמוכוונות לשרתים ולמיינפריים הוותיקים שעדיין רצים, עם תמיכה בשפות כמו קובול שעדיים נמצאות בשימוש. זו תהיה למעשה גישה מאוד גמישה לבניית סוכני AI".