Anthropic פתחה ב-5 באוגוסט בבטא ללקוחות Claude Enterprise יכולת בשם Inference Hooks. הארגון מגדיר שרת אבטחה משלו, וכל פרומפט של עובד נשלח אליו לפני שהמודל מתחיל לעבוד. השרת מחזיר "אשר" או "חסום", ובקשה שנחסמה לא מגיעה למודל בכלל.
איך זה עובד
לפי הודעת השחרור, היכולת חלה על כל פרומפט "מנוהל" ב-claude.ai, ב-Cowork וב-Claude Code. כשמשתמש שולח בקשה, Anthropic שולחת לשרת של הארגון את תמליל השיחה בבקשת HTTPS חתומה, כדי שהשרת יוכל לוודא שהיא אכן הגיעה מ-Anthropic. השרת צריך להחזיר החלטה בתוך חלון זמן שהארגון מגדיר, וברירת המחדל לפי התיעוד היא 5 שניות.
אם ההחלטה היא חסימה, המשתמש רואה הודעה שמורכבת מהנימוק שהשרת החזיר ומהודעה קבועה שמנהלי המערכת כתבו, למשל למי לפנות כדי לבקש חריגה. כל חסימה נרשמת גם ב-Activity Feed, יומן הפעילות של הארגון. ההגדרה עצמה שמורה לבעלי התפקיד Owner ו-Primary owner בלבד.
נקודה שכדאי לשים לב אליה: מה קורה כשהשרת של הארגון נופל או לא עונה בזמן. Anthropic מציינת שמדיניות הכשל ניתנת להגדרה, ולפי מדריך ההגדרה הארגון בוחר בין חסימת הבקשה לבין העברתה למודל בלי בדיקה. משרד שבוחר בחסימה מקבל הגנה הדוקה יותר, אבל גם תלות מלאה בזמינות של השרת שלו.
למה זה רלוונטי למשרדים
התרחיש הנפוץ, לפי Anthropic, הוא מניעת דליפת מידע (DLP): הפרומפט עובר לסורק שמזהה מידע מסווג או מוגן ונחסם לפני שהוא יוצא. למשרד עורכי דין או למחלקה משפטית, זו דרך לאכוף מדיניות סודיות על מידע של לקוחות בנקודת השימוש עצמה, ולא רק בהדרכה ובנהלים כתובים. על בקרות בזמן אמת ש-Box מוסיפה לסוכני AI בעבודה משפטית כתבנו כאן ביולי.
התיעוד מציין עוד שלושה שימושים: ארכוב של כל תמליל בזמן אמת, כאשר השרת פשוט מאשר כל בקשה ושומר עותק; מדידה של אופן השימוש בארגון; ומנועי מדיניות, למשל הגבלה לפי פרויקט או שעות עבודה. Anthropic מבחינה בין הכלי החדש ל-Compliance API הקיים: ה-API משמש לביקורת בדיעבד, ואילו Inference Hooks פועל לפני שהמודל רץ.
מבחינה תפעולית, הבדיקה מתבצעת בשרתים של Anthropic, אחרי שהבקשה יצאה מהמחשב של המשתמש. לכן אין צורך להתקין דבר על מחשבי העובדים, והמדיניות חלה באופן אחיד על כל המוצרים.
המגבלות
התיעוד מפרט כמה מגבלות שמשרד צריך להכיר לפני שהוא סומך על הכלי:
- תמונות לא נבדקות. קבצים מצורפים מיוצגים בטקסט שחולץ מהם ובמטא-דאטה. צילום מסך של מסמך, שאין בו טקסט שחולץ, לא ייבדק.
- אין שכתוב. ההחלטה היא אשר או חסום. השרת לא יכול להשחיר שם או מספר זהות ולהעביר את שאר הפרומפט.
- לא בכל ערוץ. היכולת לא זמינה ב-Amazon Bedrock וב-Google Cloud, וגם לא בגישה ישירה ל-API דרך Claude Platform.
עוד פרט מעשי: כל בקשה כוללת את השיחה כולה. לכן, אם שרת שבודק את כל התמליל חסם הודעה מסוימת, גם ההודעות הבאות באותה שיחה ייחסמו, עד שהמשתמש יערוך את ההודעה הבעייתית או יפתח שיחה חדשה.
השרת מקבל את מה שהמשתמש רואה: טקסט השיחה וטקסט שחולץ מקבצים. הנחיות המערכת (system prompts) וקבצים בפורמט המקורי שלהם לא נשלחים אליו. גם הפרומפטים עצמם לא נשמרים במערכת הבדיקה, שמחזיקה רק את ההגדרות ונתוני פעילות כמו החלטות וחותמות זמן.
עוד בנושא
- Box מוסיפה בלמים לסוכני AI ומכוונת לעבודה המשפטית: חסימת מחיקות והרשאות לפי סיווג
- עוז בן-עמרם: משרדי עורכי הדין עוברים מבחירת ספק לניהול גישה ישירה ל-Claude