Anthropic פרסמה ב-14 באוגוסט הסבר מפורט על סימן מים סמוי שייכלל בטקסט שמפיקים מודלי Claude עתידיים. אין בו תווים נסתרים ואין בו מילים נוספות: הסימן יושב בבחירה בין מילים שקולות, וכל מי שמחזיק במפתח יכול לבדוק אם Claude היה מעורב בכתיבה.
איך זה עובד
מודל שפה כותב מילה אחר מילה, ובכל שלב בוחר בין כמה מועמדות סבירות. בדרך כלל ההכרעה בין מילים כמעט שקולות נעשית באמצעות מחולל מספרים אקראיים. לפי Anthropic, בשיטה החדשה ההכרעה נגזרת ממפתח סודי ומהמילים שקדמו לה. הטקסט עדיין נראה אקראי לקורא, אבל מי שמחזיק במפתח יכול לבדוק אם רצף המילים תואם את מה שהמפתח צופה, ולהעריך את ההסתברות ש-Claude הפיק אותו.
החברה מציינת שהשיטה היא גרסה של SynthID-Text, שפרסמה Google DeepMind בכתב העת Nature ב-2024, ושייכת למשפחת גישות שמקורה בהצעה של Scott Aaronson מ-2022. לפי Google DeepMind, SynthID משנה את ציוני ההסתברות שהמודל מקצה למילים המועמדות. Anthropic טוענת שבבדיקות פנימיות לא נמצאה השפעה על התוכן, היצירתיות או הקריאות, ושההשפעה על המהירות זניחה.
קבצי תמונה ש-Claude מייצר, כמו png או svg, לא יקבלו סימן מים אלא אישור תוכן מסוג C2PA, הערה חתומה במטא-דאטה של הקובץ.
הרקע הרגולטורי
Anthropic מציגה את המהלך כיישום של חובות לפי ה-EU AI Act. סעיף 50(2) לחוק מחייב ספקי מערכות AI שמפיקות טקסט, תמונה, אודיו או וידאו סינתטיים לוודא שהפלט מסומן בפורמט קריא-מכונה וניתן לזיהוי כמלאכותי. לפי סעיף 113, הסעיף חל מ-2 באוגוסט 2026. החברה מוסיפה שביולי 2026 חתמה, יחד עם כ-190 חותמים נוספים לדבריה, על קוד ההתנהלות האירופי לשקיפות של תוכן שנוצר ב-AI.
לפי Anthropic, למודלים שהושקו לפני 2 באוגוסט 2026 יש תקופת מעבר, והסימון שלהם ייכנס בהדרגה בחודשים הקרובים. מכיוון שאין לחברה דרך יציבה להגביל את הסימון לאזור מסוים, הוא מוחל בכל העולם. לצד זה החברה מתכננת ממשק API לזיהוי, עם גישה מוגבלת בשלב הראשון שתורחב עם הזמן.
מה זה אומר למשרד עורכי דין
כמה מהמגבלות שהחברה עצמה מפרטת רלוונטיות במיוחד לטקסט משפטי:
- טקסט עובדתי ומדויק כמעט לא מסומן. כשיש רק בחירה נכונה אחת, אין מקום לסימן. ציטוט של סעיף, מספר הליך או נוסחה קבועה יישאו מעט מאוד ממנו.
- עריכה קלה לא מוחקת, שכתוב מלא כן. טיוטה של Claude שעברה ליטוש קל ככל הנראה תמשיך לשאת את הסימן גם במסמך הסופי. מנגד, הגהה של טקסט אנושי ב-Claude עם שינויים מעטים עשויה להשאיר מעט מדי מילים מסומנות כדי שיזוהו.
- תרגום מסומן. תרגום שמבוצע ב-Claude נושא את הסימן.
- קטעים קצרים קשים לזיהוי. הזיהוי מתחזק ככל שהטקסט ארוך יותר.
החשוב מכולם: לפי Anthropic, הסימן יכול להעיד רק ש-Claude "היה מעורב" בשלב כלשהו. הוא אינו מבחין בין טקסט ש-Claude כתב לבין טקסט שערך בהרחבה, אינו מוכיח כתיבה אנושית, ואינו מזהה טקסט של מערכות AI אחרות, שמשתמשות במפתחות שונים. החברה גם מדגישה שהסימן אינו מזהה משתמשים, ארגונים או שיחות, ואינו משנה בעלות, מחברות או זכויות המשתמש לפי תנאי השימוש.
בפועל, ככל שגישה לכלי הזיהוי תתרחב, מסמכים שעוברים לרגולטורים, לבתי משפט או לצד שכנגד עשויים להיבדק. משרד שעובד עם Claude צריך להניח שהסימן נשאר בטיוטות שעברו עריכה קלה, ולהחליט מראש על מדיניות גילוי מתי השתמש ב-AI, במקום לגלות זאת בדיעבד.