במאמר אורח שפורסם ב-Geektime ב-3 בפברואר, טוען יובל בלפר, Senior Developer Advocate בחברת AI21 Labs, שהפער בין ההבטחות על AI Agents לבין מה שרץ בפועל בארגונים גדול מאוד. לדבריו, רוב המוצרים שמוצגים כסוכנים חסרים את התכונה שמגדירה סוכן: יכולת אמיתית לפעול באופן עצמאי.
ארבעה חסמים בדרך לפרודקשן
במאמר בלפר מתאר את 2024 כ"שנת הסוכנים" ברשתות החברתיות, ומזכיר את Computer Use של Anthropic ואת Operator של OpenAI, כלים שבהם המודל שולט במקלדת ובעכבר. במקביל, הוא כותב, חברות מבטיחות סוכן אחד שיחליף צוותי פיתוח שלמים, בעוד שבפועל כמעט אין סוכנים כאלה בשימוש מבצעי.
הוא מונה ארבע סיבות. הראשונה היא איכות: מודלי שפה הם סטטיסטיים ונוטים להזיות, ומשימות של סוכן מורכבות גם לבני אדם. השנייה היא משאבים: כל קריאה למודל עולה כסף וזמן, וסוכן שתוכנן גרוע עלול לבצע כמאה קריאות למשימה פשוטה ולהשאיר את המשתמש לחכות דקות ארוכות. השלישית היא שקיפות: קשה להסביר למה המודל בחר בפעולה מסוימת, ואותה פעולה יכולה להניב תוצאות שונות. הרביעית היא מורכבות הפיתוח, שדורשת הנדסת פרומפטים, נתונים איכותיים ומערך הערכה.
מה נמכר בפועל תחת השם "סוכן"
לפי בלפר, שלוש תבניות מוצגות היום כסוכנים. הראשונה היא Tool Use או Function Calling, שבה המודל מחזיר בקשה להפעלת פונקציה, המערכת מריצה אותה ומחזירה את התוצאה. זו, לדבריו, האפשרות הבשלה ביותר, ורוב שירותי הענן הגדולים מציעים בעיקר אותה. השנייה היא מודל שפה שמשמש כנתב ומפנה כל בקשה לכלי, לקוד או למודל ייעודי. השלישית היא ReAct, לולאה שבה המודל משלב חשיבה ופעולה עד שהוא מגיע לתשובה. כאן בלפר מצביע על חולשות: הצעדים רצים זה אחר זה, למשתמש אין שליטה על ההחלטות, ודיבוג יכול להיות כמעט בלתי אפשרי.
ההבחנה הזו מתיישבת עם מה ש-Anthropic כתבה בדצמבר 2024. החברה מבדילה בין Workflows, שבהם מודלים וכלים מתוזמרים דרך מסלולי קוד מוגדרים מראש, לבין סוכנים, שבהם המודל מכוון בעצמו את התהליך ואת השימוש בכלים. ההמלצה שם דומה: להתחיל בפתרון הפשוט ביותר שעובד, ולהוסיף מורכבות רק כשהיא משפרת את התוצאה בבירור.
למה זה רלוונטי לעורכי דין
בלפר מביא כדוגמה לחסם האיכות את פרשת Air Canada. בפברואר 2024 קבע בית הדין ליישוב סכסוכים אזרחיים בקולומביה הבריטית, בתיק Moffatt v. Air Canada (2024 BCCRT 149), שחברת התעופה אחראית למידע שגוי שמסר הצ'טבוט שלה על הנחה לטיסות במקרי אבל. לפי ניתוח של McCarthy Tétrault, Air Canada טענה למעשה שהצ'טבוט הוא גורם נפרד שאחראי למעשיו, והטענה נדחתה. בית הדין מצא שהחברה לא נקטה זהירות סבירה כדי לוודא שהמידע מדויק, והטיל עליה אחריות בגין מצג שווא רשלני.
בעולם המשפטי, שבו ספקים רבים משתמשים במילה "סוכן" לתיאור מוצרים חדשים, החלוקה של בלפר יכולה לשמש כלי עבודה. כך, למשל, LexisNexis מתארת את Protégé כעוזר שמשלב AI מחלץ, גנרטיבי וסוכני. כשבוחנים מוצר, כדאי לשאול איזו תבנית עומדת מאחוריו: קריאה לכלים בתוך תהליך מוגדר, ניתוב בקשות, או לולאה עצמאית. התשובה משפיעה על מידת הפיקוח האנושי שנדרשת, על היכולת לשחזר ולהסביר תוצאה, ועל העלות בפועל.
בלפר עצמו לא צופה שהמפתחים יאבדו את עבודתם, ומסכם שהעתיד של סוכנים אמיתיים עדיין לא הגיע, גם אם כבר אפשר לבנות מוצרים שימושיים על הכלים הקיימים. המאמר פורסם לקראת כנס Evolve to AI בתל אביב, שבו בלפר אמור להרצות.