ניתוח שפרסם Benjamin Joyner ב-Legaltech News של Law.com ב-22 באפריל מזהה שני סיכונים מרכזיים בסוכני AI לצוותים משפטיים: חשיפה של מידע רגיש, כולל מידע של לקוחות, וטעויות שמצטברות זו על גבי זו. לפי הכותב, חלק גדול מהנזק נוצר כשצוותים מאמצים כלים סוכניים לפני שקבעו נהלים ואמצעי הגנה.
הטיעון ב-Law.com
הניתוח פותח בכך שסוכני AI היו בשנה האחרונה אחד הנושאים הבולטים בליגל-טק, ומפנה להשקות אחרונות של חברות כמו Thomson Reuters ו-Clio. הכותב מקבל את ההבטחה לרווח ביעילות, אבל טוען שאותן תכונות שהופכות סוכנים לחזקים, היכולת לבחור כלים, לשלוף מקורות ולפעול ברצף, הן גם אלה שיוצרות סיכון חדש לארגון. המסקנה שלו היא שהסיכונים האלה דורשים ניהול פעיל ולא רק בחירה נכונה של ספק. לשם פרופורציה, לפי דוח Thomson Reuters לשנת 2026, רק 18% מהמחלקות המשפטיות עובדות כבר עם סוכני AI.
מאיפה המידע דולף
ההבדל בין צ'אטבוט לסוכן הוא שהסוכן קורא תוכן חיצוני ומבצע פעולות. OWASP, ארגון קוד פתוח לאבטחת תוכנה, מדרג במקום הראשון ברשימת הסיכונים של מודלי שפה את Prompt Injection, הזרקת הוראות. בגרסה העקיפה, ההוראות מגיעות מתוך דף אינטרנט או קובץ שהמודל מעבד, והן לא חייבות להיות קריאות לאדם. בין התרחישים ש-OWASP מתאר: דף עם הוראות נסתרות שגורם להדלפת תוכן השיחה, מסמכים מורעלים במאגר ידע ארגוני, וקורות חיים שמובילים להמלצה חיובית בלי קשר לתוכנם. בעבודה משפטית, כתבי טענות של הצד שכנגד, חדר מידע של Due Diligence ומיילים נכנסים הם בדיוק תוכן חיצוני כזה.
כשטעות אחת הופכת לשרשרת
הסיכון השני, טעויות שמצטברות, מקבל ביטוי ברשימת עשרת הסיכונים ליישומים סוכניים ש-OWASP פרסם בדצמבר 2025. שני פריטים בה רלוונטיים במיוחד: Memory & Context Poisoning, השחתה של הזיכרון או של מאגר השליפה של הסוכן כך שהיא משפיעה על החלטות עתידיות, ו-Cascading Failures, תקלה בסוכן אחד שמתפשטת למערכות ולסוכנים המחוברים אליו. ברשימה גם Tool Misuse, שימוש לרעה בכלים לגיטימיים שנובע לרוב מהרשאות רחבות מדי, ו-Human-Agent Trust Exploitation, מצב שבו אדם מאשר פעולה מזיקה כי סמך על הסוכן (סיכום הרשימה אצל Giskard).
מה עושים לפני ההטמעה
OWASP ממליץ על הרשאות מינימליות, על טיפול בקריאות לכלים בקוד ולא דרך המודל, על אישור אנושי לפעולות בסיכון גבוה ועל הפרדה בין תוכן חיצוני לא מהימן לבין הוראות. לצד זה פרסם הארגון בפברואר 2025 מסמך ייעודי על איומים בסוכני AI ודרכי התמודדות. למשרד עורכי דין זה מתורגם לשאלות שקודמות לרכש: לאילו מאגרים הסוכן ניגש, מה מותר לו לעשות בלי אישור, ומי בודק את התוצר לפני שהוא יוצא ללקוח. על כך שעורכי דין כמעט אינם מדברים ביניהם על השימוש שלהם ב-AI כתבנו בפברואר.
עוד בנושא
- דוח Thomson Reuters לשנת 2026: רק 15% מהארגונים כבר עובדים עם סוכני AI
- השיחה החסרה: עורכי דין לא מדברים זה עם זה על השימוש שלהם ב-AI