יורי קוזלוב, עורך דין ומנכ״ל JudgeAI, חברה שמפתחת מערכת למידול של חשיבה שיפוטית, טוען שמודלי שפה גדולים פגומים מיסודם ככלי להכרעה שיפוטית: הם מייצרים טקסט סביר, לא החלטות מנומקות. במאמר שפרסם ב-15 באפריל ב-The Legal Wire הוא מציע דרך אחרת, ומסמן את האמון המוסדי, לא הטכנולוגיה, כמחסום העיקרי.
כדאי לקרוא את המאמר בידיעה שהכותב מוביל חברה שמפתחת בדיוק את סוג המערכות שהוא ממליץ עליהן.
למה לא מודל שפה
לפי קוזלוב, מודל שפה פועל על קוהרנטיות סטטיסטית של מילים ולא על קוהרנטיות לוגית של טיעונים. אין לו הליך שמצליב עובדות עם נורמות, ולכן הוא לא יכול לזהות הפרה באופן אמין. הוא גם לא מדמה את ההתנהגות החלופית של הצדדים ולא מתייחס ל"הפרה" כקטגוריה נורמטיבית.
גם בינה מלאכותית מוסברת (Explainable AI) לא פותרת את הבעיה בעיניו, כי היא מפרשת קופסה שחורה בדיעבד ויוצרת אשליה של רציונליות. הוא מבקר גם את הניסיון לחזות מי ינצח בתיק: חיזוי תוצאה, לטענתו, עוקף את ההנמקה השיפוטית במקום לשחזר אותה. המטרה צריכה להיות שחזור של מה השתבש, לא ניבוי של התוצאה.
החלופה: נורמות כקוד
קוזלוב מציע להתייחס להכרעה בסכסוך מסחרי כהליך פורמלי בארבעה שלבים: קביעת ההפרה, זיהוי הקשר הסיבתי, כימות הסטייה וחלוקת התוצאות. נורמות משפטיות יקודדו כהליכים שמכונה יכולה לפרש, עם תנאים, חריגים ותוצאות מוגדרים לוגית.
ראיות ייבחנו לפי משקל מחושב, שנגזר מאמינות המקור, מצורתו, מהאובייקטיביות שלו ומהעקביות הפנימית שלו, ולא לפי התאמה של מילות מפתח. התנהגות הצדדים תושווה להתנהגות של צד רציונלי ומציית במצב דומה, בעזרת מודלים של פיצוי, ניתוח הפסדים סימטרי ושיווי משקל נאש.
שלושה שלבים בדרך לאוטונומיה
המסלול שהוא משרטט הדרגתי. בשלב הראשון, AI משמש ביישוב סכסוכים חלופי: משא ומתן, גישור והסדרים חוזיים, בלי הכרעה מחייבת. בשלב השני, המערכת משולבת בעבודת בית המשפט כחוות דעת שנייה, מסמנת סתירות לוגיות, מציעה מודלים לחלוקת נזק ומדמה את התנהגות הצדדים, כשהשופט שומר על סמכות ההכרעה. רק בשלב השלישי, אחרי תיקוף מוסדי ואתי, יופעלו מודולים אוטונומיים בסביבות מבוקרות כמו תיקים סטנדרטיים, בוררות מסחרית ואכיפה אוטומטית של חוזים.
את סוגיית האמון הוא ממחיש בהשוואה לרכב אוטונומי: גם כשמערכות טייס אוטומטי טועות פחות מנהגים אנושיים, אף מדינה לא ויתרה לגמרי על הנהג. לגישתו, האמון הנדרש אינו אמון עיוור באלגוריתם, אלא אמון בהליכים שהוא מבצע ובמסגרות שמפקחות עליו ומבקרות אותו.
מה אומרת הרגולציה האירופית
הוויכוח הזה לא מתנהל בחלל ריק. חוק ה-AI של האיחוד האירופי (Regulation (EU) 2024/1689) מסווג בנספח III, סעיף 8(a) כמערכות בסיכון גבוה את מערכות ה-AI שנועדו לסייע לרשות שיפוטית בחקר ובפרשנות של עובדות ודין וביישום הדין על מערכת עובדות קונקרטית, וכן מערכות שמשמשות באופן דומה ביישוב סכסוכים חלופי.
מבוא 61 לחוק, שמפרש את הסיווג, מבהיר שכלי AI יכולים לתמוך בסמכות ההכרעה של שופטים אבל לא להחליף אותה, ושההחלטה הסופית חייבת להישאר פעילות אנושית. פעולות מנהליות נלוות, כמו התממה של פסקי דין, מוחרגות מהסיווג. במילים אחרות, שני השלבים הראשונים במודל של קוזלוב משתלבים במסגרת האירופית, כמערכות בסיכון גבוה עם החובות שנלוות לכך. את השלב השלישי, הכרעה אוטונומית, קשה ליישב עם העיקרון שנוסח במבוא.
עוד בנושא
- חוק ה-AI האירופי התחיל לחול: איסורים על שימושים אסורים וחובת אוריינות AI לעובדים
- עשרות מיליוני תיקים ממתינים: האם AI יכול לקצר את התורים בבתי המשפט