Loop Engineering: כשה-AI מפסיקה לענות ומתחילה לעבוד

לפני שנתיים השיחות עם מהנדסים היו כמעט אחידות. כולם ניסו להבין איך להוציא ממודלי שפה תשובה טובה יותר – איך לנסח, איך לדייק, איך "לדבר נכון עם המודל". היום הטון השתנה. לא בגלל שהפרומפטים הפסיקו להיות חשובים, אלא בגלל שהתברר משהו קצת פחות נוח. גם הפרומפט הכי טוב בעולם לא מציל תהליך עבודה שבנוי רע. זה הרגע שבו נכנס לתמונה ה-Loop. לא עוד אינטראקציה אחת, אלא מערכת של אינטראקציות שחוזרות על עצמן.

זה לא מודל, זו התנהגות

אחד המהנדסים ששוחחתי איתו לאחרונה תיאר את זה בפשטות כמעט מטרידה: "הבעיה היא לא מה המודל אומר, אלא מה הוא עושה אחרי שהוא אומר את זה". המשפט הזה מסכם את השינוי. Loop Engineering לא עוסקת בשאלה איך לקבל תשובה, אלא איך לבנות רצף שבו תשובה הופכת לפעולה, פעולה הופכת לבדיקה, בדיקה הופכת לתיקון, וחוזר חלילה.

במערכות ישנות, היה רגע ברור של התחלה ורגע ברור של סיום. בקשה נכנסת, תשובה יוצאת. במערכות החדשות הגבולות מיטשטשים. המודל כותב טיוטה, עובר עליה שוב, מזהה חוסרים, שולח את עצמו לחפש מידע נוסף, חוזר, משכתב חלקים, ולעיתים גם מחליט שהפלט עדיין לא מספיק טוב ומתחיל מחדש. זה כבר פחות דומה למחשבון, ויותר דומה לעובד שמנהל לעצמו את יום העבודה.

הבעיה היא לא מה המודל אומר, אלא מה הוא עושה אחרי שהוא אומר את זה. Loop Engineering לא עוסקת בשאלה איך לקבל תשובה, אלא איך לבנות רצף שבו תשובה הופכת לפעולה, פעולה הופכת לבדיקה ובדיקה הופכת לתיקון

איפה האדם נכנס לתמונה?

למרות הפנטזיה על מערכות אוטונומיות, בפועל האדם לא נעלם מהתהליך. להפך, הוא מקבל תפקיד קצת פחות נוצץ, אבל הרבה יותר קריטי. לא עוד מי שמייצר כל שלב, אלא מי שמגדיר את הגבולות.

למשל במערכות פיננסיות, כמו תהליכי אשראי או חיתום, הסוכן יכול לעבור לבד על מסמכים, לבדוק נתונים, לחשב יחס חוב להכנסה ולזהות סתירות. אבל איפשהו באמצע יש נקודות עצירה ברורות. לא כי המערכת לא יודעת להמשיך, אלא כי אסור לה להמשיך לבד. האדם נכנס בדיוק במקומות שבהם ההשלכה גבוהה מדי, או כשהמערכת מתחילה להראות "ביטחון יתר" בלי הצדקה אמיתית.

יש כאן משהו כמעט הפוך ממה שמספרים בכנסים. האדם לא מתחרה במכונה. הוא מתפקד כמו שסתום. לפעמים הוא מאשר את המשך הזרימה, לפעמים הוא עוצר אותה, ולפעמים הוא מחזיר את כל הלולאה לאחור.

חברות הטכנולוגיה מאמצות אותה. Loop Engineering. צילום: אילוסטרציה. ChatGPT

הטעות: לחשוב שזה עניין של קוד

קל לחשוב ש-Loop Engineering היא עוד שכבה טכנית. עוד ארכיטקטורה, עוד ספרייה, עוד כלי. אבל בפועל מדובר בשאלה ארגונית הרבה יותר עמוקה. מי מחליט מתי לעצור תהליך? מי קובע מה נחשב "מספיק טוב"? ואיך נראית אחריות כשאין עוד פעולה אחת שמסיימת הכל, אלא רצף של החלטות קטנות?

ארגונים שממהרים מדי להפוך הכל לאוטומטי מגלים מהר מאוד תופעה מוזרה. המערכת לא נכשלת בגלל תשובה שגויה אחת, אלא בגלל לולאה שלא יודעת לעצור בזמן. היא ממשיקה לשפר, לחדד, לבדוק שוב, עד שהעלות של התהליך גבוהה מהערך שלו. זה לא באג. זו תוצאה ישירה של לולאה שלא הוגדרה נכון.

בצד השני, ארגונים שמפחדים מדי מאוטומציה משאירים את האדם בכל שלב קטן. התוצאה היא מערכת איטית, עמוסה, שלא באמת מנצלת את היכולות של הבינה המלאכותית. בין שני הקצוות האלה נמצא התחום האפור שבו Loop Engineering חיה באמת.

מי שמגדיר את הלולאה, מגדיר את המוצר

יש משפט שחוזר שוב ושוב בשיחות עם אנשי מוצר בשנה האחרונה, גם אם לא תמיד אומרים אותו בצורה מפורשת: "אנחנו כבר לא בונים פיצ'רים, אנחנו בונים התנהגות". וזה בדיוק העניין. כאשר סוכן AI נכנס לתוך תהליך עבודה, השאלה המרכזית היא כבר לא מה הוא יודע לעשות, אלא איך הוא מתנהג לאורך זמן. כמה פעמים הוא בודק את עצמו. מתי הוא נעזר באדם. מתי הוא עוצר. ומתי הוא מתעקש להמשיך לבד.

Loop Engineering במובן הזה, היא פחות תחום טכנולוגי ויותר שינוי תפישתי – המעבר ממערכות שמייצרות תשובות למערכות שמנהלות תהליכים. מי שמבין את זה מוקדם, מתחיל לעצב לא רק כלים חדשים, אלא גם את הדרך שבה החלטות מתקבלות בתוך ארגונים שלמים.

ואולי זו הסיבה שהמונח נשמע עדיין קצת תיאורטי. כי ברגע שהלולאה באמת מתוכננת טוב, היא מפסיקה להיראות כמו רעיון. היא פשוט נהיית הדרך שבה העבודה מתבצעת.

הכותב הוא יועץ טכנולוגי לארגונים בעיקר בתחום האשראי החוץ בנקאי ובעברו מנמ"ר