מושל קליפורניה, גאווין ניוסום, חתם ב-13 באוקטובר על חבילת חוקים בתחום הבטיחות המקוונת של ילדים, וחלק ממנה נוגע ישירות ל-AI. מעבר לחובות על מפעילי צ'טבוטים ועל מערכות הפעלה, אחד החוקים משנה כלל בסיסי בליטיגציה: נתבע שפיתח, שינה או השתמש ב-AI לא יוכל עוד לטעון שהמערכת גרמה לנזק "באופן אוטונומי".
החבילה, לפי הודעת לשכת המושל, כוללת 16 חוקים, חלקם נחתמו עוד קודם, ובהם גם SB 53 שמסדיר מפתחים גדולים של מודלי AI. ב-17 בנובמבר פרסמו ג'ונתן בלווין ושאנון גלווין אמינירד ממשרד Munger, Tolles & Olson ניתוח ב-Bloomberg Law שמתמקד בארבעה מהם.
AB 316: הגנת "המכונה עשתה את זה" יוצאת מהמשחק
AB 316 (פרק 672 לחוקי 2025) מוסיף לקוד האזרחי של קליפורניה את סעיף 1714.46. לפי סעיף 1714.46(b), בתביעה נגד נתבע שפיתח, שינה או השתמש ב-AI שנטען שגרם לנזק, לא תעמוד לו ההגנה שה-AI גרם לנזק לתובע באופן אוטונומי. סעיף 1714.46(a) מגדיר AI כמערכת מבוססת מכונה ש"משתנה ברמת האוטונומיה שלה" ומסיקה מהקלט שהיא מקבלת איך לייצר פלטים שמשפיעים על סביבות פיזיות או וירטואליות.
החוק לא מבטל את שאר טענות ההגנה. סעיף 1714.46(c) קובע במפורש שהנתבע רשאי להעלות כל הגנה אחרת, כולל ראיות לגבי קשר סיבתי וצפיות, וכן ראיות לאשם תורם של כל אדם או גוף אחר. לפי תיעוד הליך החקיקה, התיקון הזה הוכנס בספטמבר 2025 לאחר שארגוני תעשייה, בהם Technet ולשכת המסחר של קליפורניה, חששו שהנוסח יחסום ראיות על אופן פעולת מערכות AI.
SB 243: חובות על מפעילי צ'טבוטים מלווים
SB 243 (פרק 677) מוסיף פרק חדש לקוד העסקים והמקצועות ועוסק ב"צ'טבוטים מלווים". מפעיל נדרש להודיע שהמשתמש מדבר עם מכונה כשאדם סביר עלול לחשוב אחרת, ולהחזיק ולפרסם פרוטוקול שמונע תוכן של מחשבות אובדניות ופגיעה עצמית ומפנה לקווי סיוע. כשהמשתמש ידוע כקטין, המפעיל צריך להזכיר לו לפחות פעם בשלוש שעות שהוא מדבר עם AI ושכדאי לקחת הפסקה, ולנקוט צעדים סבירים לחסימת תוכן מיני מפורש.
החוק כולל זכות תביעה פרטית למי שנפגע בפועל: צו מניעה, פיצוי בגובה הנזק בפועל או 1,000 דולר לכל הפרה, הגבוה מביניהם, והוצאות שכר טרחה. החל מ-1 ביולי 2027 המפעילים יחויבו גם בדיווח שנתי למשרד למניעת התאבדויות של המדינה.
AB 1043 ו-AB 56: גיל המשתמש ותוויות אזהרה
AB 1043, ה-Digital Age Assurance Act (פרק 675), נכנס לתוקף ב-1 בינואר 2027. ספקי מערכות הפעלה יצטרכו לבקש בעת פתיחת חשבון תאריך לידה או גיל, ולספק למפתחי אפליקציות אות דיגיטלי שמסווג את המשתמש לאחת מארבע קבוצות גיל: מתחת ל-13, 13 עד 16, 16 עד 18, ו-18 ומעלה. האכיפה בידי התובע הכללי, עם קנס של עד 2,500 דולר לכל ילד שנפגע בהפרה ברשלנות ועד 7,500 דולר בהפרה מכוונת. AB 56 מחייב רשתות חברתיות להציג למשתמשים מתחת לגיל 18 תווית אזהרה על הנזקים של שימוש ממושך.
מה צפוי בבתי המשפט
כותבי הניתוח ב-Bloomberg Law מעריכים שחובות הגילוי ב-SB 243 וב-AB 56 עלולות להיתקל בעתירות בטענה של דיבור כפוי לפי התיקון הראשון לחוקה האמריקאית, ומזכירים שארגון NetChoice כבר תקף חוק דומה בקולורדו. הם מצביעים גם על שאלות של עקיפה פדרלית, מול סעיף 230 ומול חוק COPPA. ההמלצה שלהם לחברות היא לעקוב אחר החקיקה בכל מדינה, ולבחור בין עמידה בסטנדרט המחמיר ביותר לבין דחיפה לחקיקה פדרלית אחידה.
לעורכי דין שמלווים חברות AI, הנקודה החשובה היא AB 316. היא לא יוצרת עילה חדשה, אבל היא סוגרת טיעון שהיה עשוי להישמע בתביעות נגד מפתחים ומשתמשים, ומחזירה את הדיון לכלים המוכרים של סיבתיות, צפיות ואשם.
מקורות
- לשכת מושל קליפורניה: Governor Newsom signs bills to further strengthen California's leadership in protecting children online
- Bloomberg Law: Tech Giants Brace for Regulatory Impact as CA Passes New AI Laws
- Digital Democracy: AB 316, Artificial intelligence: defenses
- Digital Democracy: SB 243, Companion chatbots
- Digital Democracy: AB 1043, Digital Age Assurance Act