KPMG הסירה מאתריה את הדוח Redefining Excellence in the Age of Agentic AI ופתחה בבדיקה פנימית, אחרי שחברת GPTZero טענה שרק 5 מתוך 45 הציטוטים בו מפנים למקור הנכון. הדוח, שעסק באופן שבו ארגונים גדולים משלבים סוכני AI בעבודה השוטפת, נפל בדיוק בבעיה שעורכי דין מכירים היטב מבתי המשפט.
מה נמצא בדוח
לפי הדיווח בגיקטיים מ-15 ביוני, שנשען על חשיפה של ה-Financial Times, הדוח פורסם באוקטובר ונועד להציג כיצד חברות גדולות מטמיעות סוכני AI. GPTZero, חברה שמפתחת כלים לזיהוי טקסט שנוצר במודלי שפה, ניתחה את הציטוטים ומצאה שרוב ההפניות היו מטעות, מומצאות בחלקן או עמומות מכדי שאפשר יהיה לאמת אותן.
הבעיה לא נעצרה בהערות השוליים. לפי הדיווח, הדוח ייחס ל-UBS שימוש במערכת לניהול סיכונים מבוססת AI, והבנק השיב שהדבר אינו נכון וביקש להסיר את האזכור. רשות התחבורה של לונדון (TfL) וחברת רכבות שווייצרית אמרו שהתיאור של השימוש שלהן ב-AI מטעה. לגבי Emirates, GPTZero טענה שהדוח תיאר עוזר AI שלה כצ'טבוט שיכול לשנות הזמנות טיסה, בעוד שבפועל מדובר ברובוט שהוצג ב-2023 ואין לו יכולת כזו.
החוקרים כינו את התופעה Vibe Citing: מודל שמרכיב פיסות מידע, ממציא כותרות שנשמעות סבירות ומייצר הפניות שנראות אמינות עד שמישהו בודק אותן.
תגובת KPMG
לפי הדיווח, אחרי פניית ה-Financial Times הסירה KPMG את הדוח ופתחה בבדיקה פנימית. בהודעה לעיתון אמרה החברה שהיא מתייחסת ברצינות לדיוק ולאמינות של התוכן שהיא מפרסמת, ושהיא מצפה מעובדיה לפעול לפי הנחיות השימוש האחראי ב-AI, כולל בקרה אנושית ואימות מול מקורות עצמאיים.
לא מקרה ראשון בענף הייעוץ
לפי אותו דיווח, ה-FT מסר שגם EY גנזה דוח דומה מסיבות דומות כחודש קודם לכן. המקרה המתועד ביותר עד כה הוא של Deloitte באוסטרליה. לפי דיווח קודם בגיקטיים מאוקטובר 2025, החברה קיבלה כ-400 אלף דולר אוסטרלי על דוח בן 237 עמודים שבחן את מערכות המחשוב של משרד התעסוקה האוסטרלי. בדוח נמצאו הפניות מומצאות, ובהן ציטוט מומצא שיוחס לשופט בבית משפט פדרלי. Deloitte הודתה לאחר מכן שחלקים מהדוח נכתבו בעזרת GPT-4o, והחזירה את שכר הטרחה.
למה זה נוגע לעורכי דין
הדוחות האלה אינם כתבי טענות, אבל המנגנון זהה למה שנראה בשנים האחרונות בתיקים משפטיים: טקסט שנראה מקצועי, הפניות בפורמט נכון, ומקורות שלא קיימים או שאינם אומרים את מה שמיוחס להם. ההבדל הוא שכאן מדובר בגופים שמוכרים ללקוחות ייעוץ בדיוק בתחום הטמעת AI, ושהנחיות האימות שלהם קיימות על הנייר.
עבור מחלקות משפטיות ומשרדים שמסתמכים על דוחות של חברות ייעוץ, ציטוט בדוח של אחת מארבע הגדולות אינו תחליף לבדיקה של המקור עצמו. התגובה של KPMG מדגישה את אותו עיקרון שבתי משפט חוזרים עליו: האחריות על הפלט נשארת אצל מי שחותם עליו.
עוד בנושא
- הזיות AI בבתי המשפט בקליפורניה: מסנקציה על עורך דין ועד הודאה של משרד תביעה
- גם עם כלי מחקר משפטי ייעודי: סנקציות על שני עורכי דין בפנסילבניה בגלל ציטוטים שגויים
- שופט אנגלי נזף ב-Pinsent Masons על מכתבים לבית המשפט שנוסחו ב-AI, והמשרד פנה ל-SRA