סוכני AI כותבים מחדש את שרשרת הערך של הפיתוח

לצד ההתקדמות המהירה בעולם סוכני ה־AI, מתחזקים גם הקולות שקוראים לארגונים להאט ולבחון מחדש את האופן שבו הם מטמיעים אותם. גרטנר צופה כי עד סוף 2026 כ־40% מהיישומים הארגוניים יכללו סוכני AI ייעודיים, לעומת פחות מ־5% ב־2025. במקביל, החברה מעריכה כי עד 2027 כ־40% מהארגונים יורידו בדרגה או ישביתו סוכנים אוטונומיים בעקבות פערי ממשל שיתגלו רק לאחר תקלות בסביבת הייצור.

הפער הזה, בין הקצב שבו ארגונים מאמצים סוכנים לבין הקצב שבו הם בונים יכולת לנהל אותם, הוא בדיוק מה שמטריד כיום גופי פיתוח רבים. השאלות משתנות. במקום לשאול רק כמה מהר אפשר לכתוב קוד, כמה בדיקות ניתן להריץ אוטומטית או כמה זמן אפשר לחסוך בתיעוד, ארגונים צריכים לשאול מי מנהל את הסוכנים, איך יודעים מה הם ביצעו, מי קובע את גבולות הפעולה שלהם ומי אחראי כשמשהו משתבש.

במילים אחרות, שרשרת הערך של פיתוח התוכנה מתחילה להיכתב מחדש. השינוי אינו מסתכם במהירות שבה נכתב הקוד, אלא באופן שבו תוכנה מתוכננת, נבנית, נבדקת ומנוהלת לאורך זמן.

ה־AI מערערת את תהליך הפיתוח המוכר

במשך עשרות שנים עבר תחום מחזור חיי פיתוח התוכנה שינויים רבים. שפות השתנו, גישות התחלפו ותשתיות התפתחו, אבל המבנה הבסיסי של התהליך נשאר מוכר יחסית.

ה־AI מתחילה לערער את המבנה הזה. כאשר סוכנים מסוגלים לנתח דרישה, לאתר ידע רלוונטי, להציע פתרון ארכיטקטוני, לשנות קוד, לכתוב בדיקות, להריץ אותן, לזהות בעיות אבטחה, לבצע סקירת קוד ולעדכן ידע ותיעוד, כבר לא מדובר רק בכלי שמסייע למפתח.

אנחנו נכנסים למודל שבו חלק משמעותי מתהליך יצירת התוכנה מתבצע באמצעות שילוב של בני אדם וסוכנים. אפשר לחשוב על זה כעל מחזור חיי פיתוח שמותאם לעידן הסוכנים, שבו השאלה של מנהלי טכנולוגיה אינה עוד רק איזה כלי AI לתת למפתחים, אלא איך צריך להיראות תהליך הפיתוח כולו כאשר חלקים ממנו יכולים להתבצע באופן עצמאי.

האדם נשאר בלולאה, אבל התפקיד שלו משתנה

עקרון ה־Human in the Loop קובע עד כמה בני אדם צריכים להיות מעורבים בתהליכי ההחלטה של מערכות בינה מלאכותית. אלא שלא נכון לפרש אותו כמודל שבו אדם נדרש לאשר כל פעולה של סוכן. אם כל פעולה מחייבת אישור אנושי, לא באמת נבנתה מערכת סוכנית. נבנתה אוטומציה שתלויה בצוואר בקבוק אנושי.

האתגר האמיתי הוא להגדיר רמות שונות של אוטונומיה. יש פעולות שסוכן יכול לבצע לבד, פעולות שבהן הוא מתקדם עד נקודת החלטה מסוימת, ופעולות שבהן סיכון, רגולציה, משמעות עסקית או אבטחת מידע מחייבים אישור אנושי. התפקיד של האדם אינו נעלם. הוא עובר בהדרגה מביצוע ישיר של כל פעולה לניהול הכיוון, הגדרת גבולות, פיקוח וקבלת החלטות במקומות שבהם שיקול דעת אנושי באמת נדרש.

האתגר הגדול מתחיל בהתרחבות הארגונית

כאשר בארגון פועלים שניים או שלושה סוכנים, עדיין ניתן לנהל אותם כמעט כמו ניסוי. הבעיה מתחילה כאשר המספר עולה לעשרות או למאות סוכנים שפועלים במגוון יחידות עסקיות. לכל סוכן נדרש מחזור חיים מלא. לא מספיק לבנות אותו ולהעלות אותו לאוויר. צריך לתכנן אותו, לבדוק אותו, לפרוס אותו, למדוד את הביצועים שלו, לשפר אותו ולנהל אותו לאורך זמן.

סוכן שאינו מנוהל ואינו משתפר הופך מהר מאוד לנכס מיושן, ולעיתים גם למסוכן.

ניהול סוכנים יהפוך לדיסציפלינה ארגונית

ככל שהשימוש בסוכנים יתרחב, תיווצר בארגונים שכבת ניהול שלמה סביבם. יהיה צורך לדעת אילו סוכנים פועלים בארגון, מי הבעלים שלהם, לאילו תהליכים הם שייכים, אילו הרשאות ניתנו להם ואיזה מידע הם צורכים. זה גם המקום שבו אחידות יתר עלולה להפוך לבעיה. סוכן שמבצע פעולה פשוטה ומוגבלת אינו דומה לסוכן שמקבל החלטות עסקיות או מבצע פעולות במערכות רגישות. לכן החלת אותם כללי ממשל על כל הסוכנים עלולה להיות לא פחות בעייתית מהיעדר ממשל.

במקביל, ארגונים יידרשו לרמת ניטור חדשה. אם סוכן מבצע פעולה עסקית או טכנולוגית, צריך להיות אפשר לשחזר את ההקשר שקיבל, המודל שבו השתמש, הכלים שהפעיל, האישורים שניתנו לו, הפעולות שביצע והתוצאה שאליה הגיע. הטמעת סוכני AI דורשת, לכן, שינוי במודל ההפעלה הארגוני. הצלחה אינה תלויה רק בכלי עצמו, אלא בחיבור בין תשתיות, דאטה, אבטחה, ממשל, אינטגרציות, ניהול ידע, ניהול עלויות, ניטור ומתודולוגיית עבודה.

רק כאשר כל השכבות האלה פועלות יחד אפשר לעבור ממקרה שימוש נקודתי ליכולת ארגונית אמיתית שמבוססת על בינה מלאכותית

יניב שושני הוא EVP באברא