ריאן מקדונה, ראש תחום הנדסת הליגל-טק ב-KPMG Law, פרסם ב-29 באוגוסט מסה בשם "What else did the work do?", ובה טענה פשוטה: עבודת עורכי הדין הצעירים לא רק הפיקה תוצר ללקוח, היא גם ייצרה עורכי דין. כשמעבירים את העבודה ל-AI, החלק השני נעלם, ואף אחד לא מודד את ההפסד.
עבודה שהייתה גם הכשרה
לפי המאמר, עורך דין צעיר שעובר על מאות חוזים בבדיקת נאותות (Due Diligence) לומד תוך כדי מה נראה כמו סעיף רגיל, מה חריג ומה מצדיק הסלמה לשותף. עם הזמן זה הופך לאינסטינקט, כלומר לשיקול דעת. מקדונה מביא דוגמה מקבילה מעולם הפיתוח: מפתחים מתחילים שמתקנים באגים לומדים איך מערכות מתנהגות בפרודקשן, למה דרישות תמיד חסרות ואיך שינוי קטן מייצר תוצאה לא צפויה.
הוא לא טוען שהמודל הישן היה תוכנית הכשרה טובה. להפך, לדבריו אף אחד לא תכנן אותו ככזה. אנשים פשוט למדו בזמן שהפיקו משהו שימושי. וכאן הנקודה: כשה-AI עושה את העבודה היצרנית, הלמידה כבר לא מגיעה כתוצר לוואי, ומישהו יצטרך לשלם עליה במפורש. בלשונו, "הפרדנו את הלמידה מהייצור".
התלות המעגלית
הטיעון המרכזי של מקדונה הוא מה שהוא מתאר כתלות מעגלית. ה-AI מקבל את העבודה כי בני אדם יכולים לבקר את התוצר שלו. כדי לבקר צריך ניסיון. וה-AI מצמצם בדיוק את הניסיון הזה. על טענה קשורה אחרת שלו, שאישור אנושי לכל צעד של סוכן אינו שליטה, דיווחנו קודם.
הוא מוסיף הבחנה שמוכרת לכל מי שבדק טיוטה של מודל שפה: לאתר טעות אחת קבורה בתוך טיוטה סבירה למראה יכול להיות קשה יותר מלכתוב את הטיוטה בעצמך, כי הבודק כבר מעוגן בפרשנות של המודל. מי שמעולם לא ניסח בעצמו מגיע לבדיקה הזאת בלי נקודת ייחוס.
עוד טענה במאמר: עבודה אמיתית מלמדת דרך השלכות מבולגנות, מסמכים לא מעודכנים, מקורות סותרים, החלטות עם מידע חסר. את אלה קשה לשחזר בקורס. ומשפט אחד שמקדונה מדגיש: אחריות משנה את הדרך שבה חושבים.
ארבע תגובות: לשמר, לדחוס, לדמות, להעביר
מקדונה לא מתנגד לאימוץ AI. הוא מציע שלפני שמאטמטים משימה, הארגון ישאל מה עוד היא עשתה, ויבחר במודע אחת מארבע תגובות:
- Preserve (לשמר): להשאיר את החוויה כעבודה אמיתית, במיוחד בשלבים המוקדמים. למשל, הג'וניור מגבש הערכה משלו לפני שהוא רואה את התשובה של המערכת.
- Compress (לדחוס): לשמור על הלמידה ולקצץ בחזרתיות. מבחר דוגמאות מגוון ומכוון עשוי ללמד יותר מכמות גדולה של מקרים דומים.
- Simulate (לדמות): לייצר בכוונה חוויות שאי אפשר לסמוך שיקרו מעצמן, כמו פלט AI שגוי, מקור מיושן, הוראות סותרות או מקרי קצה.
- Move (להעביר): להעביר את הלמידה לנקודה אחרת בתהליך החדש, למשל בירור מקרים שבהם האדם והמערכת לא מסכימים, טיפול בחריגים או עבודה קרובה יותר להחלטות של הבכירים.
לדבריו, טרנספורמציה טובה תשתמש בכל הארבע. הוא ממקם את הבחירה בתוך רצף רחב יותר: למפות את העבודה, למפות את הלמידה החבויה בה, לבחור תגובה, ואז לבדוק אם היכולת אכן נבנתה.
לא קול בודד
הדאגה הזו עולה גם במקומות אחרים. ב-מאמר של Thomson Reuters Institute שפורסם ב-1 בספטמבר, נטלי ראניון מתארת "פרדוקס למידה" דומה: מאחר שה-AI מאיץ הפקה של תוצר מלוטש, חלק מהשותפים והעמיתים הבכירים עוקפים את הג'וניורים, ואלה מפסידים את החזרות שבונות שיקול דעת. לוסי אלן, מנכ"לית משותפת של Barbri, מציעה שם רשימת תיוג לאימות פלט AI בהשראת עולם התעופה, ורואה בסימולציות תחום צמיחה מוביל. לפי הכתבה, Barbri מתכננת להשיק כלי סימולציה משלה.
הנקודה המשותפת לשני הטקסטים היא שהאימות של פלט AI הוא מיומנות נפרדת שצריך ללמד, ושהיא נשענת על ניסיון שהולך ומצטמצם. מקדונה מנסח זאת כשאלה תפעולית ולא כאזהרה: לכל משימה שמועברת למכונה צריך לקבוע מראש מה קורה ללמידה שהייתה בתוכה, ולמדוד אחר כך אם הפתרון עבד.
עוד בנושא
- ריאן מקדונה: אישור אנושי לכל צעד של סוכן AI הוא לא שליטה
- ריאן מקדונה: הזמן ש-AI מחזיר לעורכי דין לא נחסך, הוא החלטה ארגונית