מאמר אורח שפורסם בגיקטיים ב-30 ביוני טוען שהבעיה של סוכני AI בסביבת ייצור אינה המודל אלא המבנה: סוכן יחיד שמקבל משימה מקצה לקצה הופך לנקודת כשל אחת, שקשה להבין למה פעלה כפי שפעלה. לפי הכותב, חן פרידמן, האמינות באה מצמצום תחום האחריות, לא מהגדלת האוטונומיה.
מה עובד בדמו ונשבר בייצור
המאמר, "למה סוכן ה-AI שלכם ייכשל בפרודקשן?", מסומן בגיקטיים ככתבת אורח בחסות TLVTech, חברת פיתוח וייעוץ טכנולוגי ישראלית שמציגה את עצמה כשותפה של Anthropic. נקודת המוצא של פרידמן מוכרת לכל מי שהטמיע כלי AI בארגון: בהדגמה הסוכן נראה מצוין, אבל בשימוש אמיתי עולות שאלות שאין עליהן תשובה טובה. למה הסוכן בחר בפעולה מסוימת, למה התוצאות משתנות לאורך זמן, ולמה אף אחד לא יודע להסביר מה קרה.
לפי פרידמן, תהליך עסקי אמיתי מורכב מעשרות החלטות קטנות. כשסוכן אחד אחראי על כולן, טעות מוקדמת מתגלגלת לאורך כל השרשרת, ובסוף קשה לאתר איפה היא נוצרה. על ביקורת דומה מצד יובל בלפר מ-AI21, שלפיה רוב מה שנמכר כסוכנים אינו סוכן באמת, דיווחנו כאן.
פירוק לשלבים ושכבת תזמור
הפתרון שהוא מציע הוא להתייחס לעבודה כתהליך מנוהל: לפרק אותה לשלבים קטנים ומוגדרים, להקצות כל שלב לסוכן ממוקד עם אחריות אחת ותוצר צפוי, ולהוסיף מעל כולם שכבת תזמור (Orchestration) שמנהלת את הזרימה, מטפלת בחריגים ואוכפת כללים. לדוגמה, סוכן אחד אוסף מידע, אחר מנתח, שלישי מסווג, רביעי מנסח המלצה וחמישי מבצע בקרת איכות. פרידמן משווה את המעבר הזה למעבר מאפליקציות מונוליטיות למיקרו-שירותים בפיתוח תוכנה.
הדוגמאות במאמר לקוחות מעולמות שאינם משפטיים: יצירת לידים מתמלולי פודקאסטים, עדכון מערכות CRM, פיתוח תוכנה, בדיקות חדירה בסייבר ו-DevOps. בדוגמת הסייבר, במקום סוכן אחד שמריץ בדיקת חדירה מלאה, העבודה מחולקת למיפוי הסביבה, זיהוי משטח התקיפה, ניתוח חולשות ידועות ודירוג סיכונים.
לטענת פרידמן יש גם יתרון כלכלי: משימות קטנות וממוקדות מאפשרות להשתמש במודלים שונים בשלבים שונים, ולחסוך בטוקנים ובעלויות מחשוב. המאמר אינו מציג נתונים מספריים או מדידות לתמיכה בטענות האלה, והן נשארות ברמה העקרונית. לדבריו, הדור הבא של AI ארגוני ייבנה סביב תזמור, ממשל (Governance) ויכולת תצפית (Observability), והמנצחים יהיו מי שירכיבו צוותי סוכנים טובים יותר, לא מי שיבנו סוכן "כוכב" אחד.
הקשר: גם יצרניות המודלים ממליצות על פשטות
הגישה של פרידמן מתיישבת עם ההנחיות ש-Anthropic פרסמה כבר בדצמבר 2024. שם הבחינה החברה בין "תהליכי עבודה" (Workflows), שבהם הקוד קובע מראש את סדר הצעדים, לבין "סוכנים" שמכוונים את עצמם, ותיארה דפוסים כמו שרשור פרומפטים עם בדיקות בין שלב לשלב, ניתוב של שאלות פשוטות למודלים זולים, ומבנה של מתזמר ועובדים. ההמלצה המרכזית שם הייתה להתחיל בפתרון הפשוט ביותר ולהוסיף מורכבות רק כשהמדידה מצדיקה זאת.
למחלקות משפטיות ולמשרדים שבוחנים כלים אג'נטיים, הוויכוח הזה רלוונטי ישירות. היכולת להסביר איך נוצר תוצר, ובאיזה שלב נכנסה טעות, היא חלק מהאחריות המקצועית של מי שחותם על המסמך. ארכיטקטורה שמפרקת את העבודה לשלבים שאפשר לבדוק אחד אחד מקלה על פיקוח כזה, גם אם אינה מבטלת את הצורך בו. דוגמה משפטית לגישה כזו היא Lavern, מערכת קוד פתוח של 67 סוכנים עם עצירה חובה לאישור אנושי, שעליה כבר דיווחנו.
עוד בנושא
- Agentic Harness: למה שני כלי AI על אותו מודל מתנהגים אחרת
- יובל בלפר מ-AI21: רוב מה שנמכר היום כ-AI Agents הוא לא באמת סוכן
- Lavern: משרד עורכי דין סוכני בקוד פתוח, עם 67 סוכנים ושערי אישור אנושיים
- ריאן מקדונה: מערכת AI משפטית יכולה להפיק תוצר טוב ועדיין להתנהג רע