הצטרפו לקורס

Box מוסיפה בלמים לסוכני AI ומכוונת לעבודה המשפטית: חסימת מחיקות והרשאות לפי סיווג

איור: גלגל כבד על קצה מדף שטריז אחד עוצר אותו מליפול, כמשל לבלם שיושב בין ההחלטה של הסוכן לבין הביצוע

Box, פלטפורמת ניהול התוכן הארגונית, השיקה ב-15 ביולי מנגנון בשם Advanced Guardrails, שיושב בין ההחלטה של סוכן AI לבין הביצוע שלה וחוסם פעולות מסוכנות לפני שהן קורות. הדוגמה שהחברה בחרה כדי להסביר אותו לקוחה מעולם המשפט: סוכן שמנסה למחוק מסמך חסוי מתיק.

המהלך הוא חלק מסדרת צעדים של Box בחודשים האחרונים, שכולם עוסקים באותה שאלה: איך נותנים לסוכנים לבצע פעולות אמיתיות על מסמכים רגישים בלי לתת להם סמכות בלתי מוגבלת. התחום המשפטי, עם החיסיון, הסודיות והחומות האתיות שלו, הוא מקרה מבחן טבעי.

בלם בין ההחלטה לביצוע

לפי הודעת Box, ה-Guardrails החדשים זמינים ב-Box Automate, מוצר אוטומציית זרימות העבודה של החברה. בוני הזרימות יכולים להגדיר בקרות לפעולות ספציפיות ולהגביל אותן לפי סיווג התוכן, לפי תיקיות או לפי רשימת משתמשים מאושרים ומוגבלים. הבקרה יכולה לחסום, להשהות או להגביל פעולה.

הפעולות שנתמכות כרגע: הוספה או הסרה של שותף לקובץ או לתיקייה, שליחת התראה, ומחיקת קובץ או תיקייה. כשפעולה נחסמת, מערכת המעקב מציגה הודעת שגיאה שמסבירה מה קרה ולמה.

התרחיש שהחברה מתארת: צוות Legal Ops מפעיל זרימה סוכנית שסורקת סביבת עבודה של תיק ומזהה מסמכים שנראים מיושנים או כפולים. הסוכן מחליט שיש למחוק קובץ. לפני הביצוע, הבקרה בודקת את ההקשר, מזהה שהקובץ מסווג כחסוי, וחוסמת את המחיקה בזמן אמת.

שליטה בסוכנים חיצוניים דרך MCP

הצעד הקודם הגיע במאי. Box הוסיפה בקרות מנהל לשרת ה-MCP שלה, הפרוטוקול שדרכו סוכנים חיצוניים ניגשים לתוכן. מנהלי מערכת יכולים לקבוע לכל קטגוריית כלים, כמו קבצים ותיקיות, חיפוש או שיתוף, רמת גישה: מושבת, קריאה בלבד, קריאה וכתיבה, או הגדרה מותאמת כלי אחר כלי. כלים שהושבתו מוסתרים מהסוכן עצמו, וכל שינוי בהגדרות נרשם. לפי Box, השרת תומך בכל לקוח, מ-Claude ו-ChatGPT ועד אינטגרציות ארגוניות.

ב-12 במאי, כש-Anthropic השיקה פתרונות Claude לתחום המשפטי, Box הציגה את עצמה כשותפת השקה. לפי Box, כשהגישה לתוכן עוברת דרך שרת ה-MCP שלה, כל פעולה של Claude מכבדת את ההרשאות הקיימות, את מדיניות השמירה ואת החומות האתיות של המשרד. החברה הוסיפה כלים שמאפשרים ל-Claude להעתיק ולהעלות קבצים, לתייג מטא-דאטה ולנהל שיתוף עם עורכי דין חיצוניים, ושלוש מיומנויות ייעודיות: הקמת חדר מידע וירטואלי, קליטת לקוח, ובדיקת חוזים שכותבת דירוג סיכון ישירות לשדות המטא-דאטה. גם iManage הכריזה במאי על שרת MCP לכלי AI חיצוניים שמכבד הרשאות וחומות אתיות.

התזה של Box על משרדי עורכי דין

ביוני פרסם מנינדר סגו, סגן נשיא בצוות המשפטי המסחרי של Box ועורך דין לשעבר בפרקטיקה פרטית, רשומה שמסבירה את הכיוון. לטענתו, למשרדים יש שאיפות AI אבל חסר להם בסיס תוכן מנוהל: חומרים מפוזרים בין דוא"ל, תיקיות משותפות ופתרונות נקודתיים. כלי AI שעובד על תוכן לא מסווג, הוא כותב, מביא לסיכונים שהמקצוע מתייחס אליהם ברצינות, כמו ויתור על חיסיון, טיפול לקוי במידע אישי ופערים בתיעוד.

הסיכון האבטחתי הספציפי גם הוא לא חדש בשיח של החברה. כבר באוקטובר 2025 הסביר בן קוס, ה-CTO של Box, איך הזרקת הוראות (Prompt Injection) והרעלת מידע דרך מסמכים ומיילים יכולות להפוך סוכן מועיל לאיום פנימי, וקרא להגביל בקפידה את מה שסוכן רשאי לעשות.

Artificial Lawyer סיקר את המהלך ב-21 ביולי כניסיון ממוקד של Box לפנות לשוק המשפטי. כל הטענות על יכולות המוצר כאן הן של החברה ולא נבדקו באופן עצמאי.

עוד בנושא

מקורות

פסיקה ורגולציה לפני שהן מגיעות אליכם מהלקוח

גיליון חודשי אחד, למשפטנים שרוצים לדעת מה נפסק, מה השתנה ברגולציה, ומה זה משנה לעבודה שלהם בפועל. בלי ספאם, וניתן להסיר את ההרשמה בכל עת.