הצטרפו לקורס

Fable 5 נעלם אחרי ארבעה ימים: מה שבוע אחד מלמד על תלות משרדים בספק AI

איור: ערסל שקשור לעץ וליתד אחת שנשלפת מהאדמה, כמשל למשרד שבנה את העבודה שלו על מודל AI אחד

בתוך ארבעה ימים עבר המודל החזק ביותר ש-Anthropic הציעה לציבור מהשקה, דרך הגבלה אצל לקוח ענק, ועד השבתה עולמית בצו ממשלתי. למשרדי עורכי דין שבנו תהליכי עבודה על מודל אחד, זה תרגיל חי בניהול סיכוני ספק.

ההשקה, ותנאי השמירה שהגיעו איתה

ב-9 ביוני הודיעה Anthropic על Claude Fable 5, מודל ממשפחת Mythos שהחברה תיארה כבעל יכולות שעולות על כל מה ששחררה עד כה לשימוש כללי. לצדו הוצג Mythos 5, אותו מודל בסיס עם פחות מגבלות בטיחות, שמיועד לקבוצה מצומצמת של שותפים. ב-Fable 5 מסווגים מנתבים חלק מהשאלות בתחומי סייבר, ביולוגיה וכימיה ל-Claude Opus 4.8, והמשתמש מקבל הודעה על כך. על ביצועיו של Fable 5 בבנצ'מרק הסוכנים המשפטי של Harvey דיווחנו בנפרד.

הפרט שעניין במיוחד ארגונים היה שורה אחת בהודעה: Anthropic תדרוש שמירה של 30 יום לכל התעבורה במודלים ממשפחת Mythos. החברה הוסיפה שהמידע לא ישמש לאימון מודלים, שכל גישה אנושית אליו תתועד, ושהוא יימחק אחרי 30 יום "כמעט בכל המקרים".

Microsoft עוצרת את העובדים שלה

ב-12 ביוני דיווח Windows Central, בהסתמך על The Verge, ש-Microsoft הגבילה באופן זמני את השימוש של עובדיה ב-Fable 5. לפי הדיווח, החשש הוא שמידע רגיש, כולל נתוני לקוחות, יוזן למודל וייוותר בידי הספק, ושתוכן שסומן על ידי מערכות הבטיחות עשוי להישמר עד שנתיים לצורכי בירור. צוותי המשפט והציות של Microsoft בוחנים את השינוי, לפי אותו דיווח. מ-Microsoft עצמה לא פורסמה הודעה רשמית.

צו פיקוח יצוא והשבתה גלובלית

באותו יום, ב-17:21 לפי שעון החוף המזרחי, קיבלה Anthropic צו פיקוח יצוא מממשלת ארה״ב, כך דיווח BleepingComputer. הצו אוסר גישה ל-Fable 5 ול-Mythos 5 לכל מי שאינו אזרח אמריקני, בתוך ארה״ב ומחוצה לה, כולל עובדים זרים של החברה. Anthropic הודיעה שאין לה דרך לעמוד בצו בלי להשבית את שני המודלים לכל הלקוחות בעולם, ועשתה זאת. סשנים קיימים הסתיימו בשגיאה, וקריאות API למודל נכשלו.

Anthropic הצהירה שהיא מצייתת אך חולקת על הבסיס לצו. לטענתה, מדובר ב-Jailbreak (עקיפת מגבלות הבטיחות) מצומצם, שבבדיקתה התברר כמורכב מפגיעויות קטנות וידועות. לפי TechCrunch, בהסתמך על ה-Wall Street Journal, מנכ״ל Amazon אנדי ג׳סי העלה בפני גורמי ממשל חשש שחוקרי החברה הצליחו להפיק מהמודל מידע שימושי למתקפות סייבר. דייוויד סאקס טען ברשת X שהממשל ביקש מ-Anthropic לתקן או להפסיק את הפריסה, ושהחברה סירבה. אלה טענות של הצדדים, ולא עובדות שאומתו.

שלושה צירי סיכון למשרד

שינוי מדיניות של הספק. תנאי השמירה של Fable 5 הוגדרו ביום ההשקה, ברמת המודל. משרד שהתחייב כלפי לקוחות לתנאי סודיות מסוימים צריך לבדוק אותם מחדש בכל פעם שהוא עובר מודל, ולא רק בחתימה על ההסכם.

חשבונות שאינם בשליטת הארגון. ההחלטה של Microsoft מראה שגם ארגון עם צוות ציות גדול עוצר כשהתנאים משתנים. עורך דין שמשתמש בחשבון אישי לא עובר את הבדיקה הזו בכלל.

סוכנים עם גישה למידע. המתכנת סיימון וויליסון הגדיר את מה שהוא מכנה "השילוש הקטלני" של סוכני AI: גישה למידע פרטי, חשיפה לתוכן שאינו מהימן, ויכולת לתקשר החוצה. כשכל השלושה מתקיימים, תוקף יכול לגרום לסוכן להוציא מידע. ככל שמשרדים מחברים מודלים לתיבות דואר ולמערכות מסמכים, השאלה מה עושה המודל רלוונטית כמו השאלה מי מחזיק בנתונים.

ההמלצה המעשית שחוזרת אצל פרשנים, למשל אצל מרגרט וואלאס, היא לתכנן מראש למצב שבו מודל נעלם בן לילה: תהליכים שאפשר להעביר בין מודלים, ובמידת הצורך גם חלופות קוד פתוח או מקומיות. Anthropic הודיעה שהיא פועלת להחזרת הגישה.

עוד בנושא

מקורות

פסיקה ורגולציה לפני שהן מגיעות אליכם מהלקוח

גיליון חודשי אחד, למשפטנים שרוצים לדעת מה נפסק, מה השתנה ברגולציה, ומה זה משנה לעבודה שלהם בפועל. בלי ספאם, וניתן להסיר את ההרשמה בכל עת.