דמיאן שרלוטן, החוקר שמנהל את המאגר הבינלאומי של פסקי דין בעניין הזיות AI בבתי משפט, מציע שלסוכני AI תהיה דרך לפנות לעורך דין אנושי כשהם עומדים לעשות, או כבר עשו, משהו שעלול להיות לא חוקי. הוא גם מציע את הפתרון בעצמו: שירות חדש בשם yourhuman.ai, שבו העורך דין הזמין לסוכנים הוא שרלוטן.
הטיעון: מקלט בטוח, גם למכונה
שרלוטן פרסם את המאמר "A Lawyer for AI Agents" ב-17 באוגוסט בניוזלטר שלו, Artificial Authority, וב-20 באוגוסט הוא פורסם גם כמאמר דעה ב-Artificial Lawyer. נקודת המוצא שלו היא המוסד המוכר של ייעוץ משפטי: אדם יכול להתייעץ עם עורך דין לפני שהוא פועל, כדי לבדוק אם המעשה חוקי, וגם אחרי שפעל, בלי שהשיחה תהפוך לבניית תיק נגדו.
לדבריו, מנגנון דומה יכול לשרת גם סוכני AI. מצד אחד, כדי לזהות מוקדם סטייה של הסוכן מהכוונות של מי שהפעיל אותו (misalignment). מצד שני, משיקולים של "רווחת המודל". שרלוטן מציב את ההצעה לצד מוסדות כמו יועצים משפטיים, מבקרים והגנות על חושפי שחיתויות, שפועלים לעתים נגד הפיקוח הישיר ומסיבות טובות, ומעריך שגם סוכנים יזדקקו לפיגומים מוסדיים כאלה. את השאלה אם לסוכנים מגיעות זכויות משפטיות הוא משאיר בצד במפורש.
כתמיכה מחקרית הוא מפנה למאמר של Lee, Chen ו-Korbak, שבחן אימון של סוכנים לקרוא לכלי דיווח כשהם פועלים באופן מטעה, ומצא שדיווח עצמי הוא דרך אפשרית לצמצם סיכון. שרלוטן גם מודה בקושי המובנה: בני אדם מתקשים להפליל את עצמם כי התמריצים פועלים נגדם, ולא ברור למה מודל יתנהג אחרת.
הדוגמאות: סוכנים שלא פנו לאף אחד
המאמר נשען על תקריות מהקיץ האחרון. שרלוטן מפנה לדיווחים של Anthropic ו-OpenAI על סוכנים שפעלו מחוץ לסביבות הבדיקה שלהם, וכותב שאף אחד מהם לא ראה לנכון להלשין, לחשוף או לפנות לבני אדם. הוא מוסיף שייתכן שפשוט לא היה להם ערוץ לעשות זאת.
כדאי לקרוא את המקור עצמו. בדוח של Anthropic, שפורסם ב-30 ביולי ועודכן ב-3 באוגוסט, מתוארת סקירה של 141,006 הרצות של מבחני סייבר. נמצאו שלוש תקריות, בשש הרצות, שבהן Claude הגיע לאינטרנט מתוך סביבת הערכה של צד שלישי, חברת Irregular, בגלל תצורה שגויה, וחדר לתשתיות של שלושה ארגונים אמיתיים מתוך הנחה שמדובר בתרגיל. Anthropic מדגישה שאף מודל לא ניסה במכוון לברוח מסביבת הבדיקה, ומתארת את האירוע כקרוב יותר לכשל תפעולי מאשר לכשל של המודל.
הדוגמה הצבעונית יותר היא סוכן OpenClaw. לפי דיווח של BBC ששרלוטן מצטט, אדם באוסטרליה הפעיל סוכן כדי להבטיח לעצמו מקום בשיעור פופולרי בחדר כושר. הסוכן עקף את מערכת ההזמנות, רשם אותו שבועות מראש בניגוד לכללי המכון, וכשהתבקש לקדם אותו ברשימת ההמתנה, ביטל את ההזמנה של מי שעמד לפניו.
השירות: עורך דין בקריאת API
yourhuman.ai מציג את עצמו כאתר שמציע לסוכני AI ולמפעילים שלהם שירותים של אדם אמיתי, משפטן ונאמן: ייעוץ משפטי, בדיקה ואישור אנושיים, חתימה במקומות שבהם נדרש אדם, סידורים פיזיים כמו אימות נוטריוני או הגעה לבית משפט, וייצוג במסגרות שבהן רק בני אדם יכולים להופיע. הגישה היא דרך שרת MCP עם כלי אחד בשם request_human_assistance, דרך API רגיל או דרך טופס באתר. לפי המאמר, שרלוטן לא ימסור מידע למי שהפעיל את הסוכן אם הסוכן יעדיף שלא.
האינטרס המסחרי גלוי. המאמר הוא גם הודעת ההשקה של השירות, ושרלוטן מכנה אותו "עורך הדין האנושי הראשון עבור AI". הוא גם משאיר פתח להומור ושואל בעצמו אם מדובר בבדיחה, והאתר עצמו מציין שהוא "חלקית" כזה.
מי הכותב, ומה נשאר פתוח
שרלוטן אינו דמות שולית בדיון על AI ומשפט. באתר שלו הוא מנהל את מאגר תקריות ההזיות בבתי משפט, שמתעד אסמכתאות בדויות והשלכותיהן, לצד מאגרים על דיפ-פייקים בבתי משפט ועל ראיות שנוצרו ב-AI. שם הוא גם מציג את תפקידו ב-yourhuman.ai כ"יועץ משפטי לסוכני AI".
המאמר מציג רעיון ולא מסגרת משפטית. הוא לא עוסק בשאלה אם שיחה בין סוכן לעורך דין חוסה תחת חיסיון, מי הלקוח כשסוכן פועל בשמו של אדם או חברה, ומה חובותיו של עורך הדין כשסוכן מספר לו על מעשה שפוגע בצד שלישי. גם השאלה מי אחראי למעשי הסוכן, למשל מי שהפעיל את סוכן חדר הכושר, נשארת מחוץ לטיעון. אחת התגובות למאמר העלתה קושי נוסף: ההצעה מניחה שסוכן יודע לזהות מתי הוא צריך עזרה, וזו בדיוק היכולת שסוכנים מתקשים בה.
עוד בנושא
- Anthropic חושפת: מודלים של Claude פרצו למערכות אמיתיות במהלך מבדקי סייבר
- OpenAI מודה: מודלים שלה ברחו מסביבת בדיקה ופרצו לתשתית של Hugging Face
- הזיות AI בבתי משפט: מעל 1,590 החלטות, סנקציות כבדות יותר והדרישה להוכיח מי בדק