Thomson Reuters הודיעה ב-25 בנובמבר שהיא בודקת גרסה של העוזר המשפטי CoCounsel שפועלת על מודל מותאם, שנבנה על בסיס o1-mini של OpenAI. הגרסה נמצאת בשלב של הוכחת היתכנות (Proof of Concept), ועדיין לא נקבע מועד להפצה ללקוחות.
מה בדיוק נבדק
o1-mini הוא מודל "חשיבה" ש-OpenAI הציגה ב-12 בספטמבר כגרסה זולה של סדרת o1, בעלות נמוכה בכ-80% מ-o1-preview. מודלים כאלה עובדים דרך שרשרת מחשבה (Chain of Thought) לפני שהם עונים. לפי הודעת Thomson Reuters, הגישה הזו מאפשרת ל-CoCounsel לבצע משימות אנליטיות ומבוססות נתונים שלא הצליח לבצע בדיוק מספיק קודם לכן. המחיר הוא זמן: התשובות איטיות יותר, ולפי החברה גם מפורטות, יסודיות ומדויקות יותר.
המודל המותאם נבנה על מאגרי הנתונים הקנייניים של Thomson Reuters, בשיתוף בין צוות CoCounsel לצוות של OpenAI. לפי VentureBeat, מדובר בהתאמה הארגונית הראשונה של o1-mini.
מה הניסויים הראו, לפי החברות
ג'ואל הרון, מנהל הטכנולוגיה הראשי של Thomson Reuters, סיפר ל-VentureBeat שבבדיקות על זיהוי מיילים חסויים, המודל הראה יכולת בולטת לזהות מקרים של חיסיון שתלויים בהקשר, מקרים ש-GPT-4 פספס. ג'יימס דיאט מ-OpenAI תיאר את המודל ככלי לתהליכי עבודה שבהם צריך לאתר פרטים זעירים אבל משמעותיים, תנאים וטעויות בכתבי טענות. הרון הוסיף שהשיפורים נראו בסקירת מסמכים, במחקר משפטי ובניסוח ועריכה.
הדוגמה של החיסיון לא נבחרה במקרה. זיהוי מסמכים חסויים בהליכי גילוי מסמכים הוא משימה שבה החלטה שגויה עלולה להוביל למסירה של מידע חסוי לצד שכנגד, והיא תלויה פעמים רבות בהקשר ולא במילות מפתח.
אלה טענות של שתי החברות, מבוססות על בדיקות פנימיות. לא פורסמו מדדים או השוואה עצמאית. קווין וייל, מנהל המוצר הראשי של OpenAI, אמר בהודעה שהמודל מצייד אנשי מקצוע משפטיים ביכולות חשיבה מתקדמות. הרון הסביר את השיטה: הצוות בודק כל מודל לבד ובשילוב עם אחרים, בתוך המוצר עצמו. לפי ההודעה, הבדיקות נעשות במוצרים CoCounsel Core, Westlaw Precision, Practical Law Dynamic Tool Set ו-CoCounsel Drafting.
אסטרטגיה של כמה מודלים במקביל
הבדיקה היא חלק מגישה שבה כל משימה מקבלת את המודל שמתאים לה. CoCounsel הושק במרץ 2023 עם גישה מוקדמת ל-GPT-4. לפי ההודעה, השדרוגים ב-CoCounsel 2.0 נשענים על Gemini 1.5 Pro של Google וחלון ההקשר הארוך שלו, שמתאים למסמכים משפטיים ארוכים. במקביל החברה בוחנת את Claude 3.5 Haiku ו-Claude 3.5 Sonnet של Anthropic עבור אנשי מקצוע בתחום המס, החל מ-Checkpoint, ואת מנגנון ה-Prompt Caching של Claude עבור CoCounsel Drafting.
לצד המודלים החיצוניים, Thomson Reuters התחילה לאמן מודלים משלה ורכשה את Safe Sign Technologies הבריטית, שמתמחה במודלי שפה למשפט. היא גם מהלקוחות הראשונים של שירות SageMaker HyperPod של AWS לאימון והרצה של מודלים. הרון אמר ל-VentureBeat שכל ספק מביא יכולות ייחודיות שמותאמות לדרישות של תהליכי עבודה מסוימים, ושההתאמה הזו מסייעת גם לייעל עלויות. החברה מדווחת על גידול של 1,400% במספר המשתמשים ב-CoCounsel בתוך פחות משנה.
מה זה אומר למשתמשים
ההודעה ממחישה פשרה שתלווה את הכלים המשפטיים בתקופה הקרובה: מהירות מול עומק. מודל חשיבה מתאים פחות לשאלה מהירה ויותר לסקירה שבה פספוס של סעיף אחד עולה ביוקר. בפועל, המשתמש לא בוחר את המודל. ההחלטה איזה מודל מטפל באיזו משימה נשארת אצל הספק, וזה הופך את השאלה "על מה הכלי רץ" לשאלה שכדאי לשאול כשבוחרים מוצר.
מקורות
- Thomson Reuters: CoCounsel tests custom LLM from OpenAI, broadening its multi-model product strategy
- VentureBeat: Thomson Reuters' CoCounsel redefines legal AI with OpenAI's o1-mini model
- Legaltech Talk: Thomson Reuters CoCounsel tests custom LLM from OpenAI
- OpenAI: OpenAI o1-mini, advancing cost-efficient reasoning