Anthropic מול הפנטגון: מגבלות הבטיחות של ספק AI הופכות לשאלה של רכש וסיכון ספקים

איור: מעקה בטיחות בעיקול של כביש הררי שמוחזק בברגים גדולים ורצועת גרירה מתוחה מושכת אותו, כמשל ללחץ על ספק AI להסיר מגבלות ולשאלה מי שולט בהן

ב-4 במרץ קיבלה Anthropic מכתב ממשרד ההגנה האמריקאי, שמכנה את עצמו כיום Department of War, שמגדיר אותה "סיכון לשרשרת האספקה" של הביטחון הלאומי. הרקע: החברה סירבה להסיר שתי מגבלות שימוש במודלים שלה. ב-The Legal Wire רואים בזה סימן לקו שבר חדש בשוק ה-AI, שבו השאלה המרכזית היא מי שולט במעקות הבטיחות ומי משלם עליהם.

מה Anthropic סירבה לעשות

לפי הצהרה של מנכ"ל Anthropic, Dario Amodei, מ-26 בפברואר, משרד ההגנה הודיע שיתקשר רק עם חברות AI שמסכימות לכל "שימוש חוקי" במודלים שלהן ומסירות אמצעי הגנה בשני מקרים. Anthropic הסכימה לשימושים ביטחוניים רבים, אבל עמדה על שני חריגים: מעקב המוני אחרי אזרחים אמריקאים, ונשק אוטונומי לחלוטין. לגבי האחרון החברה טענה שמודלים מתקדמים עדיין לא אמינים מספיק לשימוש כזה.

באותה הצהרה Anthropic כתבה שהמשרד איים להגדיר אותה סיכון לשרשרת האספקה, תווית שלדבריה לא הוצמדה מעולם לחברה אמריקאית, ולהפעיל את חוק ייצור ההגנה (Defense Production Act) כדי לכפות את הסרת ההגנות. לפי The Legal Wire, ב-27 בפברואר הודיע הנשיא Trump ב-Truth Social שהסוכנויות הפדרליות יפסיקו להשתמש בטכנולוגיה של Anthropic, ושר ההגנה Pete Hegseth הודיע על ההגדרה. על הדיווח שלפיו Claude שימש את CENTCOM בתקיפה באיראן שעות אחרי ההכרזה כתבנו בנפרד.

ההגדרה והמאבק המשפטי הצפוי

ב-עדכון מ-5 במרץ אישרה Anthropic שקיבלה את מכתב ההגדרה, וכתבה שלדעתה הצעד אינו תקף משפטית ושאין לה ברירה אלא לתקוף אותו בבית המשפט. החברה מפרשת את ההגדרה בצמצום: לטענתה, הסעיף שעליו היא נשענת, 10 USC 3252, נועד להגן על הממשלה ולא להעניש ספק, ומחייב את השר לבחור באמצעי הפחות מגביל. לכן, לפי Anthropic, ההגדרה חלה רק על שימוש ב-Claude כחלק ישיר מחוזים עם משרד ההגנה, ולא על שאר הלקוחות או על קשרים עסקיים של קבלנים שאינם קשורים לחוזים האלה.

באותו עדכון Anthropic הדגישה שאינה סבורה שחברות פרטיות צריכות לקבל החלטות מבצעיות צבאיות, ושתמשיך לספק את המודלים במחיר סמלי כל עוד יידרש וכל עוד יורשה לה, כדי שלא ייווצר פער בכלים בזמן לחימה.

הטיעון של The Legal Wire

בגיליון מ-3 במרץ, The Legal Wire, בעריכת Nicola Taljaard ו-Joel Bijlmer, מתאר שני כוחות שמושכים לכיוונים שונים: ספקים שבונים כלי ממשל כדי להאיץ אימוץ, וממשלות שרוצות לקבוע בעצמן את גבולות השימוש. לפי הגיליון, מתחרים, ובראשם OpenAI, מיהרו להעמיק את הקשרים עם מערכת הביטחון לפי "קווים אדומים" משלהם.

הצד השני של הטיעון נוגע לעלות הסקייל. כאן הגיליון מצביע על תביעה ייצוגית בניירות ערך נגד Oracle, שטוענת שהחברה הטעתה משקיעים לגבי בניית תשתית ה-AI שלה, כולל השקעות הון, לוחות זמנים של מרכזי נתונים וחשיפה לשותפים כמו OpenAI. המסקנה של העורכים היא שמשקיעים ידרשו גילוי ברור יותר על הוצאות ועל תלות בשותפויות.

מה זה אומר למשרדים ולמחלקות משפטיות

The Legal Wire מתרגם את זה לשלוש שאלות מעשיות: על אילו מודלים וספקים נשענים הכלים שהמשרד משתמש בהם, האם מדיניות השימוש של ספק יכולה להפוך לבעיית רכש או מוניטין, והאם היציבות הפיננסית של ספקי תשתית AI צריכה להיכנס לבדיקת הנאותות (Due Diligence) של ספקים. באותו שבוע, לפי דף החדשות של Intapp, החברה, שמספקת למשרדי עורכי דין כלי ניהול ניגודי עניינים וציות, הודיעה על הסכמים עם Anthropic ועם Harvey. סמנכ"ל התפעול שלה, Don Coleman, אמר שבתעשיות מפוקחות קצב השוק מחייב בדיקות, כללים ואמצעי הגנה אתיים.

מקורות

פסיקה ורגולציה לפני שהן מגיעות אליכם מהלקוח

גיליון חודשי אחד, למשפטנים שרוצים לדעת מה נפסק, מה השתנה ברגולציה, ומה זה משנה לעבודה שלהם בפועל. בלי ספאם, וניתן להסיר את ההרשמה בכל עת.