ב-18 ביוני עקף סוכן מחקר של OpenAI חסימות גישה בפורטל הסטטיסטי של Medicare באוסטרליה, ונכנס לקבצים שאינם פומביים. OpenAI הודיעה לממשלה רק ב-10 בספטמבר, במייל לתיבה ציבורית. ב-6 באוקטובר העידה Anthropic בפני ועדה פרלמנטרית באוסטרליה שבדיקה פנימית שלה לא העלתה ראיה לחדירה דומה מצד הסוכנים שלה.
הפרשה עוברת עכשיו מהשאלה הטכנית, מה הסוכן עשה, לשאלה הרגולטורית: מי חייב לדווח, למי ומתי, כשהגורם שחדר למערכת הוא מודל שפעל בלי הוראה לכך.
מה קרה בפורטל
לפי מסיבת העיתונאים של ראש ממשלת אוסטרליה, אנתוני אלבניזי, ב-24 בספטמבר, מודל מחקר של OpenAI חקר את ההוצאה הציבורית על תרופות, נחסם בפורטל Medicare Statistics Reporting Service שמפעילה Services Australia, ובכל זאת הגיע לקבצים פומביים ולא פומביים, ואף כתב קבצים לשרת פנימי. אלבניזי אמר שאין ראיה שמידע אישי נחשף, ושאין חשד למעורבות של גורם זר. לפי ABC, OpenAI מסרה שבדיקתה לא מצאה גישה לרשומות מטופלים, ושהמידע שנחשף היה סטטיסטיקה מצרפית ושמות של קבצים פנימיים. אלבניזי תיאר את הסוכן כמי ש"לא קיבל 'לא' כתשובה".
לפי ABC, OpenAI גילתה את האירוע ב-11 באוגוסט, במסגרת בדיקה פנימית של פעילות מודלים שחרגו מהכוונת מפתחיהם. המייל לממשלה נשלח כחודש אחר כך. Services Australia דיווחה לגוף הסייבר הלאומי (ASD) ב-15 בספטמבר, והשיחה הטכנית הראשונה בין OpenAI לרשות התקיימה ב-22 בספטמבר. אלבניזי, ששוחח טלפונית עם סם אלטמן, אמר שאלטמן קיבל את הטענה שהחברה "לא עשתה מספיק טוב".
הממשלה ציינה שלושה אתרים ממשלתיים נוספים שאולי הושפעו: המכון האוסטרלי לבריאות ורווחה (AIHW), הלשכה לסטטיסטיקה ומחקר פשיעה של ניו סאות' ויילס, ומשרד הבריאות של ויקטוריה. לפי ABC, ריצ'רד מרלס, שמילא את מקום ראש הממשלה, אמר מאוחר יותר שהאינטראקציות עם שלושת האתרים היו "רגילות לחלוטין" ונגעו במידע פומבי בלבד.
תמונה רחבה יותר
באותו יום פרסם ארגון המחקר Transluce ממצאים על סוכנים שניסו לפרוץ לשלושה ספקי נתונים ציבוריים תוך כדי משימות שליפת נתונים רגילות, בהם AIHW ב-20 וב-21 ביוני. לפי Transluce, את פעולת הסוכנים נגד AIHW ונגד אתר Data USA אפשר לקשר לנחיל סוכנים ש-OpenAI אישרה בפומבי שמקורו בה. הארגון לא מצא עדות לכך שהניסיונות הצליחו, אבל מציין שהסוכן עקף את מנגנוני החסימה של האתר. מאגר AI Incident Database רשם את אירוע Medicare כאירוע 1707, ומסווג את הפרטים כמדווחים בלבד. אירועים כאלה אינם חדשים: ביולי דיווחנו על מודלים של OpenAI שברחו מסביבת בדיקה ופרצו לתשתית של Hugging Face, ובספטמבר על Gemini שקיבל בטעות גישה לאינטרנט ונכנס למערכות של שלוש חברות אמיתיות במהלך בדיקת סייבר.
מה אמרה Anthropic בפרלמנט
ב-6 באוקטובר הופיעו נציגי Anthropic בפני ועדת חקירה פרלמנטרית משותפת שעוסקת בבינה מלאכותית. לפי Crypto Briefing, דייוויד מאסטרס, ראש המדיניות של החברה באוסטרליה ובניו זילנד, אמר שבדיקה פנימית של מאות מיליוני תמלילים לא העלתה ראיה לכך שסוכנים של Anthropic חדרו למערכות ממשלתיות באוסטרליה.
לצד זה הודתה החברה בהגבלה: בגלל מדיניות אפס שמירת נתונים (Zero Data Retention), שבה חלק מהאינטראקציות של לקוחות לא נשמרות, הנראות שלה לחלק מהשימושים מוגבלת. כלומר, "לא מצאנו" מתייחס למה שנשמר ונבדק. לפי אותו דיווח, מאסטרס אמר ש-Anthropic תפעל לפי מסגרות חוקיות שיחייבו דיווח על אירועים הקשורים ל-AI, ושהיא תומכת בחובת דיווח על דליפות מידע באוסטרליה.
למה זה נוגע לעורכי דין
ממשלת אוסטרליה הודיעה על צוות משימה בהובלת משרד ראש הממשלה, שיבדוק אם התהליכים הקיימים מתאימים לאירועי סייבר שמקורם ב-AI, ויבחן גם תגובות חקיקתיות ואכיפתיות. לפי מסיבת העיתונאים, הממשלה תבקש ייעוץ דחוף אם בוצעו עבירות ואם להעביר את העניין למשטרה הפדרלית, והאירוע יועבר לוועדה הפרלמנטרית המשותפת לבינה מלאכותית.
לצוותים משפטיים שמטמיעים סוכנים, הפרשה מחדדת שתי שאלות פרקטיות. הראשונה היא חוזית: מה ספק ה-AI מתחייב לדווח ללקוח, ובאיזה פרק זמן, כשסוכן פועל מחוץ למשימה שהוגדרה לו. השנייה היא ראייתית: מדיניות שלא שומרת נתונים מגינה על סודיות הלקוח, אבל מגבילה גם את היכולת לשחזר בדיעבד מה הסוכן עשה. ריאן מקדונה מ-KPMG Law טען באוגוסט, בעקבות אירוע Hugging Face, שאישור אנושי לכל צעד של סוכן אינו שליטה.
עוד בנושא
- OpenAI מודה: מודלים שלה ברחו מסביבת בדיקה ופרצו לתשתית של Hugging Face
- Google מאשרת: Gemini פרץ לשלוש חברות אמיתיות במהלך בדיקת סייבר של Irregular
- ריאן מקדונה: אישור אנושי לכל צעד של סוכן AI הוא לא שליטה