Ryan McDonough, שכותב על טכנולוגיה משפטית וממשל AI, הציג את OpenMandate, מסגרת קוד פתוח לבניית סוכני AI שבה הכללים לא כתובים בפרומפט אלא בקובץ מדיניות נפרד שנאכף בכל צעד. הרעיון המרכזי: המודל נתפס כמנוע ביצוע שאין לסמוך עליו, שרק מציע פעולות, ומערכת דטרמיניסטית מסביבו מחליטה אם הן יבוצעו.
מהוראה לסמכות
McDonough פרסם את הטיעון בבלוג שלו ב-23 בפברואר, והטקסט פורסם מחדש ב-Law://WhatsNext ב-2 במרץ. נקודת המוצא שלו היא שרוב הדיון על AI משפטי עסק עד כה במה שהמודלים מסוגלים לעשות, בעוד שבשימושים מפוקחים השאלה החשובה היא מה המערכת תרשה להם לעשות.
לטענתו, רוב מסגרות הסוכנים נשענות על הנחיות בתוך הפרומפט, וזה לא מספיק בסביבה רגולטורית. על הטענה שממשל לסוכנים במשרדי עורכי דין צריך להתחיל מהמשפט ולא מתבנית גנרית כתבנו בינואר. אמירה בנוסח "אמרנו ל-AI לא לעשות את זה", כך הוא כותב, לא תשכנע הרבה. הפתרון שהוא מציע הוא להזיז את גבול האמון החוצה: המודל הופך למציע בתוך מערכת מנוהלת, בדומה למתמחה שמציע טיוטה, ושרשרת הבדיקות ממלאת את תפקיד השותף המפקח.
איך זה עובד
לפי אתר הפרויקט ודף ה-GitHub, OpenMandate בנויה על Mastra, מסגרת לבניית סוכנים ב-TypeScript, ומופצת ברישיון MIT. הסמכות של כל סוכן מוגדרת ב"מנדט", קובץ YAML שנשמר בנפרד מקוד האפליקציה, כך שצוותי Legal Ops או Compliance יכולים לקרוא ולבדוק אותו בלי לקרוא קוד.
הקובץ כולל בין השאר:
- יכולות: רשימה לבנה של כלים מותרים. כלי שלא מופיע במנדט לא מוצג לסוכן בכלל.
- איסורים: פעולות אסורות, למשל ניסוח שמתפרש כייעוץ מקצועי בהקשרים מסוימים.
- תחום: אזורי שיפוט נתמכים, ומה עושים כשמגיעה שאלה מחוץ להם.
- הסלמה: טריגרים לפי נושא, אזור שיפוט או כוונת המשתמש, שמעבירים את השיחה לאדם.
לצד אלה המערכת מוסיפה הסתייגויות (disclaimers) לפי כללי טריגר, בודקת את הפלט לניסוחים אסורים ולדרישות ציטוט, ויכולה לחסום קריאות לכלים, לעצור קלט לפני שהמודל רואה אותו ולהגביל טוקנים, סבבי שיחה ותקציב שימוש. כל אינטראקציה נרשמת ביומן ביקורת (Audit Log) במסד SQLite, כולל קריאות לכלים, בדיקות פלט ופעולות שנחסמו, כך שאפשר לשחזר איזה כלל במנדט הוביל לאיזו תוצאה.
חבילות מומחיות לפי תחום
הידע המקצועי מגיע ב"חבילות מיומנות" (Skill Packs) שמצרפות כלים, בדיקות וקטעי פרומפט מאושרים. לפי דף ה-GitHub, החבילה שמגיעה עם הפרויקט היא חבילת משפט בריטי שנשענת על legislation.gov.uk ועל ממשק Find Case Law של הארכיון הלאומי הבריטי, ומנדט הדוגמה בה עוסק בזכויות שוכרים באנגליה ובוויילס. במאמר עצמו McDonough מתאר חבילה לדיני עבודה בבריטניה כדוגמה לאופן שבו חבילה כזו יכולה לכלול כללי הסלמה לפי אזור שיפוט וכלי מחקר מורשים.
מה זה לא פותר
McDonough לא טוען שהגישה מבטלת את סיכון המודל. לדבריו היא הופכת את המדיניות לניתנת לבדיקה, לבחינה ולביקורת. הסיכון שמטריד אותו הוא התשובה הבודדת שהייתה צריכה להפעיל הסלמה ולא הפעילה, או קריאה לכלי שחשפה מידע רגיש אחרי שההקשר השתנה. השאלה, לשיטתו, עוברת מ"האם אפשר לסמוך על המודל" ל"האם המערכת יכולה למנוע ממנו לפעול מחוץ לסמכותו".
אחד המגיבים לפוסט, ד"ר Peter McCann Strain, הסכים עם המסגור ושאל אם המערכת שומרת גם את ההצעה שנדחתה ואת הכלל שעצר אותה, ולא רק את הפעולות שבוצעו. בדף לא הופיעה תשובה.