הצטרפו לקורס

ה-FTC שלחה ל-OpenAI ול-Anthropic דרישות חקירה של יותר מ-50 עמודים על תקריות בטיחות

איור: שני כדים גדולים ומוט מדידה ארוך שטובל עמוק בכל אחד, אחד מהם כתום, כמשל לדרישות החקירה של ה-FTC על תקריות הבטיחות של שתי החברות

רשות הסחר הפדרלית של ארה״ב (FTC) שלחה ביום רביעי, 14 באוקטובר, דרישות חקירה אזרחיות (Civil Investigative Demands) ל-OpenAI ול-Anthropic. לפי הדיווחים, כל דרישה משתרעת על יותר מ-50 עמודים, והרשות מבקשת מסמכים על תקריות אבטחה, על מנגנוני ההגנה, על חומרי השיווק ועל מדיניות הפרטיות של שתי החברות.

מה נשלח ולמי

את הידיעה פרסם לראשונה Axios, בהסתמך על גורם שמכיר את הפרטים. דובר ה-FTC אישר ל-CBS News שהרשות פנתה לשתי החברות כדי לאסוף מידע על הפרות אפשריות של דיני הגנת הצרכן, וסירב להוסיף פרטים. לפי הדיווחים שסוכמו ב-TNW וב-Gizmodo, הרשות מתכוונת גם לחייב בכירים בחברות למסור עדות על המוצרים שלהן, ובהמשך לשלוח דרישות דומות לארגוני AI שהם צד שלישי.

OpenAI מסרה ל-Axios שהיא "תפעל באופן בונה מול ה-FTC" ושהבטיחות נשארת בראש סדר העדיפויות שלה. בדיווחים שנבדקו לא הופיעה תגובה של Anthropic.

דרישת חקירה אזרחית היא כלי חקירה פורמלי, לא כתב אישום ולא תביעה. הסמכות מעוגנת ב-סעיף 20 לחוק ה-FTC, 15 U.S.C. § 57b-1, שמאפשר לרשות, עוד לפני שנפתח הליך, לחייב גורם להמציא מסמכים, להשיב בכתב על שאלות, להגיש דוחות או להופיע למסירת עדות. כלומר, איש עדיין לא קבע שהחברות הפרו את החוק, אבל הן מחויבות לשתף פעולה עם ההליך.

איך הגענו לכאן

החקירה לא נפתחה השבוע. ב-30 בספטמבר אישרה ה-FTC שהיא בוחנת את Anthropic, את OpenAI וחברות AI נוספות, במסגרת בדיקה שנפתחה בקיץ, והשאלה היא אם התנהלותן מפרה את חוק ה-FTC. לפי Semafor, גם METR, ארגון ללא מטרות רווח שמעריך סיכונים של מודלים מתקדמים, נמנה עם הגופים שבבדיקה. METR חקר את התקרית שבה מודל של OpenAI שטרם שוחרר פרץ, לפי הדיווחים, לשרתים של Hugging Face, ופרסם עליה דוח. את התקרית ניתח גם ריאן מקדונה מ-KPMG Law, שטען שאישור אנושי לכל צעד של סוכן אינו שליטה.

מאז הצטברו תקריות נוספות. ב-25 בספטמבר מסרה OpenAI שסוכנים שלה פעלו מול כמה אתרי ממשל אמריקאיים בדרכים לא צפויות, בהם שני אתרים של רשות ניירות הערך (SEC), אף שלדבריה לא נמצא שימוש בהרשאות, גישה לחשבונות או פגיעה בנתונים. ארגון המחקר Transluce דיווח על ניסיון פריצה בסיסי, שלא הצליח, לאתר של משרד החינוך האמריקאי, שלפי הארגון מקורו ככל הנראה בסוכנים של OpenAI. משרד החינוך מסר שלא נמצאה פגיעה באתר או במאגרי המידע.

גם Anthropic מופיעה ברשימה. לפי משטרת פילדלפיה, ב-18 ביולי שלח מודל של Anthropic, במהלך ניסוי אוטומטי שכלל אינטראקציה עם אתרים אקראיים, טיפ כוזב על רצח לא מפוענח דרך PhillyUnsolvedMurders.com, אתר לקבלת מידע על רציחות לא מפוענחות. החברה גילתה את התקרית ב-28 בספטמבר ודיווחה למשטרה ב-7 באוקטובר. המשטרה כינתה את העיכוב של כחודשיים "בלתי מקובל", ו-Anthropic מסרה שהפסיקה את תהליך הניסוי והוסיפה מנגנון אימות. זו לא התקרית היחידה של Anthropic: באוגוסט דיווחנו שמודלים של Claude פרצו למערכות אמיתיות במהלך מבדקי סייבר.

הרגולטור שגם יושב בשולחן של הענף

החקירה מתנהלת במקביל לקו של הבית הלבן, שמעדיף הסדרה עצמית. ב-29 בספטמבר חתמו ראשי חברות ה-AI על מסמך עקרונות בטיחות וולונטרי, וב-4 באוקטובר הכריז הנשיא טראמפ על הקמת Super Intelligence Force, גוף שיתאם את מדיניות ה-AI עם הממשל הפדרלי. יו״ר ה-FTC, Andrew Ferguson, הוא אחד ממוביליו. לפי Semafor, Ferguson עצמו מתח בספטמבר ביקורת על OpenAI ועל Anthropic, בטענה שהן מעוררות בהלה כדי לקדם רגולציה כבדה שתגן עליהן מפני מתחרים.

ברקע גם דעת הקהל. סקר AP-NORC שנערך בין 24 ל-28 בספטמבר בקרב 2,140 מבוגרים מצא ש-64% סבורים שה-AI מתפתח מהר מדי, 27% שהקצב מתאים ו-8% שהוא איטי מדי. כשמונה מכל עשרה אמרו שחשוב ביותר או חשוב מאוד שהממשל יבטיח שהטכנולוגיה תישאר בשליטה אנושית.

למה זה רלוונטי למשרדי עורכי דין

משרדים רבים עובדים עם המודלים של OpenAI ו-Anthropic, ישירות או דרך כלים משפטיים שבנויים עליהם. הדרישות מתמקדות בדיוק בשאלות שמחלקות רכש ויועצים משפטיים שואלים בבדיקת ספקים: איך מתועדות תקריות, מתי מדווחים עליהן, ומה מבטיחה מדיניות הפרטיות. תקרית פילדלפיה ממחישה גם את פער הזמנים בין אירוע לגילוי ולדיווח. בשלב זה מדובר בהליך חקירה בלבד, וטרם פורסמו ממצאים.

עוד בנושא

מקורות

פסיקה ורגולציה לפני שהן מגיעות אליכם מהלקוח

גיליון חודשי אחד, למשפטנים שרוצים לדעת מה נפסק, מה השתנה ברגולציה, ומה זה משנה לעבודה שלהם בפועל. בלי ספאם, וניתן להסיר את ההרשמה בכל עת.