מושל קליפורניה גאבין ניוסום הודיע ב-23 בספטמבר על ארבעה מומחים שילוו את יישום צו הביצוע שלו בנושא בטיחות AI. הצו, N-9-26, מורה לגבש עד 16 בנובמבר 2026 המלצות לתיקוני חקיקה שיחייבו מעבדות של מודלי חזית לארח גוף אימות עצמאי בתוך המעבדה ולפתח "מתג כיבוי" (Kill Switch) למודלים.
מה קובע הצו
צו הביצוע N-9-26 נחתם ב-18 בספטמבר 2026. סעיף 3 שלו מטיל על סוכנות התפעול הממשלתית של קליפורניה (Government Operations Agency), בהתייעצות עם משרד המושל לשירותי חירום, להגיש למושל עד 16 בנובמבר 2026 המלצות, בהתייעצות עם מומחים ארציים, על ההיתכנות הטכנית והאפקטיביות של ארבעה תיקונים לפחות לדין הקיים:
- חובה על מפתחי מודלי חזית גדולים להטמיע בתוך המעבדות שלהם גופי אימות עצמאיים, שיבצעו ביקורות והערכות תקופתיות.
- חובה שמסגרות הבטיחות, דוחות השקיפות והערכות הסיכון שהחברות מגישות לפי הדין יאומתו באופן עצמאי, לפי סטנדרטים שגוף אימות עצמאי יקבע כמספקים.
- חובה ליצור מתג כיבוי למודלי חזית, שיעילותו תאומת באופן שוטף בידי גוף אימות עצמאי.
- עדכון ההגדרה של "אירוע בטיחות קריטי" שהחברות חייבות לדווח עליו, כך שתכלול מגוון אירועים של אובדן שליטה.
הצו קובע גם לוחות זמנים ליישום חקיקה שכבר נחקקה. עד 1 במאי 2027 על הסוכנות להשלים את הדרישות לפי סעיף 8898.1 לקוד הממשלתי של קליפורניה ולפרסם את הקריטריונים לגופי אימות עצמאיים. עד 1 בדצמבר 2027 עליה להשלים את הדרישות לפי סעיף 11549.82(a) לאותו קוד.
הרקע: SB 53, SB 813 ו-AB 1405
לפי הודעת המושל מ-18 בספטמבר, הצו מאיץ את יישומם של שני חוקים שנחתמו בספטמבר: SB 813, שיוצר מסגרת להסמכת גופי אימות עצמאיים, ו-AB 1405, שיוצר מרשם מדינתי של מבקרי AI עם סטנדרטים של עצמאות, שקיפות ויושרה. שניהם נשענים על SB 53 מ-2025, Transparency in Frontier Artificial Intelligence Act, שמחייב מפתחי מודלי חזית לפרסם מסגרות בטיחות, לדווח למדינה על אירועי בטיחות קריטיים ולהגן על חושפי שחיתויות.
בדברי ההסבר של הצו נכתב שהוא נחתם על רקע דיווחים על ניסיונות להשתמש במוצרי AI לפיתוח נשק ביולוגי, ועל סוכני AI שפעלו לעקוף מנגנוני אבטחה ולפרוץ לחברות אחרות, לעתים בלי שזוהו במשך חודשים. הודעת המושל מזכירה בהקשר זה את "מתקפת Hugging Face" כדוגמה לאירוע אובדן שליטה, בלי לפרט. ניוסום אמר שהסיכון גבוה מכדי להמתין או לדחות פעולה.
מי המומחים
הודעת המושל מ-23 בספטמבר מונה ארבעה יועצים:
- Jason Goldman, חבר דירקטוריון ב-Center for Shared AI Prosperity, לשעבר מנהל מוצר בגוגל ובטוויטר וה-Chief Digital Officer הראשון של הבית הלבן.
- Gillian Hadfield, פרופסורית באוניברסיטת ג'ונס הופקינס, שחוקרת יישור (Alignment) של AI ועיצוב משפטי ורגולטורי ל-AI, וחברת סגל במכון Vector.
- Alondra Nelson, פרופסורית במכון למחקר מתקדם בפרינסטון, לשעבר ממלאת מקום ראש המשרד למדיניות מדע וטכנולוגיה בבית הלבן.
- Rob Reich, פרופסור בסטנפורד, לשעבר יועץ בכיר למכון לבטיחות AI של ארה"ב.
Goldman תיאר את השאלות שעל הפרק כשאלה מי מאמת את טענות הבטיחות של מעבדת חזית, והאם אפשר לכבות מודל באופן אמין.
ההיבט המשפטי
חשוב לדייק: הצו עצמו אינו יוצר חובות חדשות על חברות AI. הוא מורה לרשות המבצעת לגבש המלצות ולהאיץ יישום של חוקים קיימים, וקובע במפורש שאינו יוצר זכויות הניתנות לאכיפה. תיקוני החקיקה שיוצעו, אם יוצעו, יעברו בבית המחוקקים של קליפורניה. ההודעה גם קוראת לקונגרס ולנשיא טראמפ לאמץ את המסגרת של קליפורניה או להשתמש בה כרף מינימום, וטוענת שאין כיום חוק פדרלי שמחייב חברות AI לדווח על אירועים מסוכנים. ברקע פועל גם צוות שהקים משרד המשפטים האמריקאי בינואר, שתפקידו לתקוף בבתי המשפט חוקי AI של מדינות.