הנציבות האירופית פתחה ב-26 בינואר חקירה רשמית נגד X לפי חוק השירותים הדיגיטליים (DSA), בעקבות השימוש ב-Grok ליצירת תמונות מיניות מזויפות, כולל תוכן שעשוי להיחשב חומר פגיעה מינית בילדים. לפי הנציבות, הסיכונים "נראה שהתממשו" ואזרחי האיחוד נחשפו לנזק חמור.
מה קרה לפני החקירה
בתחילת ינואר דווח שמשתמשים ב-X שלחו ל-Grok, מחולל התמונות של xAI שמשולב בפלטפורמה, תמונות של אנשים לבושים, לעיתים קטינים, וביקשו ממנו "להסיר" את בגדיהם. לפי הדיווח ב-Independent מ-9 בינואר, הכלי נענה, ואחרי ימים של שימוש כזה הגבילה X את יצירת התמונות ועריכתן למנויים משלמים בלבד. באותו דיווח צוין שהרגולטורית הבריטית Ofcom בוחנת את X ואת xAI, וראש הממשלה קיר סטארמר אמר שהוא ביקש ש"כל האפשרויות יהיו על השולחן" ושהתוכן "אינו חוקי".
מה בודקת הנציבות
לפי הודעת הנציבות, החקירה החדשה בוחנת אם X העריכה כראוי ומיתנה את הסיכונים שנבעו מהפעלת יכולות Grok באיחוד. הסיכונים שהנציבות מונה הם הפצת תוכן בלתי חוקי, השפעות שליליות הקשורות לאלימות מגדרית, ופגיעה ברווחה הפיזית והנפשית.
נקודה מרכזית נוספת היא התזמון של הערכת הסיכונים. הנציבות בודקת אם X הייתה חייבת לערוך ולהגיש לה דוח הערכת סיכונים ייעודי לפני שהשיקה יכולות של Grok שיש להן השפעה קריטית על פרופיל הסיכון של הפלטפורמה. במילים אחרות, השאלה אינה רק אם X הגיבה אחרי שהנזק נחשף, אלא אם הייתה צריכה לבחון אותו מראש.
בהודעה הרשמית לעיתונות (IP/26/203) הנציבות מפרטת שאם יוכחו, הכשלים יהוו הפרה של סעיפים 34(1), 34(2), 35(1) ו-42(2) ל-DSA. הרגולטור האירי Coimisiún na Meán, מתאם השירותים הדיגיטליים של אירלנד, עבד עם הנציבות ויהיה שותף לחקירה לפי סעיף 66(3).
הרחבת החקירה על מערכות ההמלצה
במקביל הרחיבה הנציבות חקירה שנפתחה עוד בדצמבר 2023 על מערכות ההמלצה של X. ההרחבה תבחן גם את ההשפעה של המעבר שהכריזה עליו X למערכת המלצות מבוססת Grok.
סגנית הנשיאה הבכירה של הנציבות, הנה וירקונן (Henna Virkkunen), אמרה שדיפפייקים מיניים של נשים וילדים הם צורת השפלה אלימה ובלתי מקובלת, ושהחקירה תקבע אם X עמדה בחובותיה או התייחסה לזכויות אזרחי אירופה כאל "נזק אגבי" של השירות שלה.
מה יכול לקרות עכשיו
הנציבות מסרה שתמשיך לאסוף ראיות באמצעות בקשות מידע, ראיונות ובדיקות, ושפתיחת ההליך אינה קובעת את תוצאתו. בסוף הדרך היא יכולה לקבל החלטת אי-ציות, או לקבל התחייבויות מ-X לתיקון הליקויים. הנציבות גם ציינה שהיא רשאית להטיל צעדים זמניים אם X לא תבצע התאמות משמעותיות בשירות.
זו לא ההתמודדות הראשונה של X מול ה-DSA. ב-5 בדצמבר 2025 קיבלה הנציבות החלטת אי-ציות נגד הפלטפורמה, בנושאי עיצוב מטעה, שקיפות פרסום וגישת חוקרים לנתונים, והטילה עליה קנס של 120 מיליון אירו. בספטמבר 2025 כבר שלחה הנציבות ל-X בקשת מידע על Grok, בין היתר בעקבות תוכן אנטישמי שיצר החשבון @grok באמצע השנה.
למי שעוסק בייעוץ לחברות שמשלבות יכולות AI גנרטיבי במוצרים צרכניים, החקירה ממחישה את הכיוון: לפי עמדת הנציבות, פלטפורמה גדולה במיוחד שמוסיפה יכולת AI עם השפעה קריטית צריכה להעריך את הסיכונים לפני ההשקה, ולא רק לטפל בתוצאות.