OpenAI פרסמה מדריך מעשי בן 34 עמודים, "A practical guide to building agents", לצוותי מוצר ופיתוח שבונים את הסוכן הראשון שלהם. ההגדרה שבבסיסו פשוטה: סוכנים הם מערכות שמבצעות משימות באופן עצמאי בשם המשתמש. רוב המסמך עוסק בשאלה מתי זה בכלל מוצדק, ואיך בונים את זה כך שאפשר לסמוך על התוצאה.
מה נחשב סוכן ומתי כדאי לבנות אחד
לפי המדריך, לא כל מערכת שמשלבת מודל שפה היא סוכן. צ'טבוט פשוט, מודל שעונה על שאלה אחת או מסווג רגשות אינם סוכנים, כי המודל לא מנהל בהם את ביצוע תהליך העבודה. סוכן, לפי ההגדרה, משתמש במודל כדי לנהל את התהליך ולקבל החלטות, מזהה מתי המשימה הושלמה, יכול לתקן את עצמו, ובמקרה של כשל עוצר ומחזיר את השליטה למשתמש. בנוסף יש לו גישה לכלים חיצוניים, כדי לאסוף מידע וגם כדי לבצע פעולות.
הדוגמה המרכזית היא ניתוח הונאות בתשלומים. מנוע כללים מסורתי עובד כמו רשימת תיוג ומסמן עסקאות לפי קריטריונים קבועים מראש. סוכן מבוסס מודל שפה, לפי OpenAI, פועל יותר כמו חוקר מנוסה שבוחן הקשר ודפוסים עדינים, ויכול לזהות פעילות חשודה גם כשאף כלל מפורש לא הופר.
המדריך מציע שלושה סימנים לתהליך שמתאים לסוכן: החלטות שדורשות שיקול דעת וחריגים (למשל אישור החזר כספי), מערכות כללים שהפכו מסורבלות ויקרות לתחזוקה (הדוגמה היא סקירת אבטחה של ספקים), והסתמכות כבדה על מידע לא מובנה כמו מסמכים ושפה טבעית (טיפול בתביעת ביטוח דירה). אם התהליך לא עומד בקריטריונים האלה בבירור, כותבים ב-OpenAI, ייתכן שפתרון דטרמיניסטי מספיק. מזווית ביקורתית יותר כתבנו בפברואר על יובל בלפר מ-AI21, שטען שרוב מה שנמכר כ-AI Agents הוא לא באמת סוכן.
שלושה רכיבים ושני דפוסי תזמור
סוכן בנוי משלושה רכיבים: מודל, כלים והנחיות. ההמלצה לבחירת מודל היא להתחיל עם המודל החזק ביותר כדי לקבוע רף ביצועים בעזרת מבחני הערכה (evals), ורק אחר כך לנסות מודלים קטנים וזולים יותר במקומות שבהם הם עדיין עומדים ביעד הדיוק. הכלים מתחלקים לשלושה סוגים: כלי מידע (קריאת מסמכים, חיפוש במאגרים), כלי פעולה (שליחת מייל, עדכון רשומה) וסוכנים אחרים שמשמשים ככלים.
בנוגע להנחיות, המדריך ממליץ לבנות אותן מתוך מסמכים קיימים בארגון: נהלי עבודה, תסריטים ומדיניות, ולפרק אותם לצעדים ברורים שלכל אחד מהם פעולה מוגדרת, כולל טיפול במקרי קצה. בתזמור ההמלצה היא להתחיל בסוכן יחיד ולהוסיף לו כלים בהדרגה, ולעבור למערכת של כמה סוכנים רק כשההנחיות מסתבכות מדי או כשהסוכן בוחר שוב ושוב בכלי הלא נכון. לשם כך מתוארים שני דפוסים: סוכן "מנהל" שמפעיל סוכנים מתמחים ככלים, ודפוס מבוזר שבו סוכנים מעבירים זה לזה את המשימה.
מעקות בטיחות והתערבות אנושית
פרק נרחב מוקדש ל-Guardrails, שכבות הגנה שאמורות לפעול יחד: מסווג שבודק שהשאלה בתחום, מסווג שמזהה ניסיונות פריצה והזרקת הוראות (prompt injection), מסנן מידע אישי מזהה, כללים דטרמיניסטיים ודירוג סיכון לכל כלי. הדירוג נקבע לפי שאלות כמו האם הכלי רק קורא או גם כותב, האם הפעולה הפיכה ומה ההשלכה הכספית שלה.
המדריך מגדיר שני מצבים שמחייבים התערבות אנושית: חריגה מסף כישלונות, למשל כשהסוכן לא מצליח להבין את בקשת הלקוח אחרי כמה ניסיונות, ופעולות בסיכון גבוה, רגישות או בלתי הפיכות, כמו ביטול הזמנות, אישור החזרים גדולים או ביצוע תשלומים. לפי המסמך, פיקוח אנושי על פעולות כאלה צריך להימשך עד שהאמון באמינות הסוכן גדל.
ההקשר: כלי הסוכנים של OpenAI
המדריך משתמש לאורכו בדוגמאות קוד מ-Agents SDK, ערכת הפיתוח בקוד פתוח ש-OpenAI השיקה ב-11 במרץ יחד עם Responses API וכלים מובנים לחיפוש ברשת, חיפוש בקבצים ושימוש במחשב. אוליבייה גודמן, ראש מוצר ה-API בחברה, אמר אז ל-TechCrunch שקל להדגים סוכן, אבל קשה מאוד להרחיב אותו ולגרום לאנשים להשתמש בו לעתים קרובות. המדריך נקרא כניסיון לענות על הפער הזה. לקוראים מהעולם המשפטי, ההבחנה בין משימה שמתאימה לכללים לבין משימה שדורשת שיקול דעת, והדרישה להחזיר לאדם כל פעולה בלתי הפיכה, הן שתי נקודות שימושיות לכל דיון על אוטומציה של תהליכים במשרד או במחלקה.