Thomson Reuters הקימה את Trust in AI Alliance, פורום שמכנס חוקרים ומהנדסים מהתעשייה ומהאקדמיה סביב שאלה אחת: איך בונים אמון בתוך מערכות AI סוכניות (Agentic AI), כאלה שמבצעות רצף פעולות בעצמן. לפי Artificial Lawyer, בין המשתתפים בכירי הנדסה ומוצר מ-Anthropic, OpenAI, Google Cloud ו-AWS.
מי נמצא סביב השולחן
הפורום פועל תחת Thomson Reuters Labs, זרוע המחקר והפיתוח של החברה. Artificial Lawyer דיווח ב-13 בינואר שארבע חברות משתתפות בו, Anthropic, AWS, Google Cloud ו-OpenAI, וכל אחת מיוצגת על ידי מנהלים בכירים בתחומי ההנדסה והמוצר. שמות הנציגים לא פורסמו. גם בעבר בחנה Thomson Reuters מודלים של ספקיות חיצוניות: על בדיקת גרסה של CoCounsel שנבנתה על מודל מותאם של OpenAI דיווחנו בדצמבר 2024.
לפי הדיווח, הפורום יעסוק בצרכים של עורכי דין אבל לא רק בהם, ויכסה גם שימושים מקצועיים אחרים. המשתתפים אמורים לשתף תובנות, לזהות אתגרים משותפים ולגבש גישות משותפות לבניית מערכות AI אמינות ובעלות אחריותיות. מבנה הפורום, תדירות המפגשים ואופן קבלת ההחלטות לא פורטו.
ממדיניות לדרישה הנדסית
בפוסט בבלוג החדשנות של Thomson Reuters, שפורסם ב-12 בינואר ונכתב על ידי פרנק שילדר (Frank Schilder), מדען בכיר בחברה, מוסבר הרעיון. ג'ואל הרון (Joel Hron), סמנכ"ל הטכנולוגיה של Thomson Reuters, מצוטט שם כשהוא אומר שהלקוחות של החברה "לא משתמשים ב-AI לצורך ניסויים", ושבמצב כזה אמון מפסיק להיות שאלה של מדיניות והופך לדרישה הנדסית.
הפוסט מונה שלושה תחומי מיקוד ראשונים:
- שלמות ההקשר (Context integrity): האם שיקולים קריטיים להחלטה שורדים כשהמודל מתמצת מידע או מפצל אותו בין שלבים.
- מקור בלתי ניתן לשינוי (Immutable provenance): איך שומרים על טקסט המקור שמצוטט כך שיישאר מדויק וניתן לביקורת.
- אבטחה מפני הנחיות עוינות: איך מגנים על תהליכי עבודה מפני קלט זדוני בלי לפגוע בשימושיות.
הצעד הקרוב שהוכרז הוא סדנה של הפורום, בלי תאריך שפורסם. לא הוצגו בשלב זה תוצרים כמו תקן, דוח או מסגרת מחייבת.
למה זה נוגע למשפטנים
שני תחומי המיקוד הראשונים ממפים היטב את החששות המוכרים מעבודה משפטית עם מודלי שפה: ציטוט שנשען על מקור אמיתי אבל משנה את לשונו, או סיכום ארוך שבו נשמט דווקא הפרט שמכריע את התיק. במערכת סוכנית הסיכון גדל, כי טעות בשלב מוקדם עוברת הלאה לשלבים הבאים.
ב-Artificial Lawyer ציינו בהקשר זה שסוכנים עלולים לצבור טעויות זו על גבי זו, תרחיש חמור יותר מ"הזיה" בודדת, והזכירו את הדיווחים החוזרים על עורכי דין שהגישו לבתי משפט אסמכתאות שלא קיימות. לפי האתר, ההשפעה של הפורום תלויה בשאלה אם החששות של השוק המשפטי לגבי דיוק אכן יגיעו להנהלות של ספקיות המודלים.
עוד בנושא
- Thomson Reuters בודקת גרסה של CoCounsel על מודל מותאם שנבנה על OpenAI o1-mini
- Thomson Reuters מחברת את החיפוש הארגוני של DeepJudge ל-CoCounsel Legal