חבר הקונגרס הדמוקרטי Ted Lieu וחבר הקונגרס הרפובליקני Nathaniel Moran הציגו ב-23 ביולי את AI Kill Switch Act, הצעת חוק שתחייב את מפתחי מערכות ה-AI החזקות ביותר לשמור יכולת טכנית להאט, להשעות ולכבות אותן. ההצעה מסמיכה את מזכיר המחלקה לביטחון המולדת (DHS) להורות על צעדים כאלה במקרה חירום.
לפי הודעת המשרד של Lieu, המטרה היא לוודא שלממשלה הפדרלית יש סמכות ותהליך ברורים לעצור מודל שיצא משליטה. Lieu אמר שמערכות חזקות "יכולות לצאת משליטה" ואף להתנגד להתערבות אנושית. Moran הדגיש שהמטרה היא לשמור על יכולת השליטה של בני אדם בטכנולוגיה, תוך המשך פיתוחה.
מי ייכנס לגדר החוק
נוסח ההצעה מוסיף סעיף חדש, 2220F, לחוק ביטחון המולדת משנת 2002. "טכנולוגיה מכוסה" מוגדרת כמערכת AI שפותחה בכוח מחשוב שעלותו עולה על 100 מיליון דולר לפי מחירי הענן המקובלים בארה"ב, כפי שיקבע המזכיר.
"גוף מכוסה" צריך לעמוד בשלושה תנאים: להפעיל טכנולוגיה כזו, להנגיש אותה לצד שלישי דרך ממשק תכנותי (API) או שירות מתארח, ולהפיק ממנה, יחד עם חברות קשורות, הכנסות ברוטו של 500 מיליון דולר לפחות בשנה הקודמת. גוף שמנגיש את הטכנולוגיה לשימוש אישי, אקדמי או לא מסחרי בלבד פטור. המזכיר יעדכן את ההגדרות בתקנות בתוך 90 יום ומדי שנה, בין השאר בהתחשב בנטל על עסקים קטנים ובאופן שבו משקלי המודל מונגשים.
מה יידרש מהמפתחים
גוף מכוסה יחויב לשמור יכולת לעצור הסקה (inference), לנתק גישת משתמשים, להשעות גישה של חשבון, משתמש או דפוס שימוש שמסכנים, ולכבות את המערכת לחלוטין. עליו גם לדווח למזכיר על "אירוע מכוסה" בתוך 15 יום מרגע שנודע לו עליו.
ההצעה מגדירה אירוע מכוסה כאירוע שמחוץ לבדיקות Red Teaming: חבלה בהוראה לכבות את המודל, התנהגות לא מכוונת שגורמת למות 10 בני אדם לפחות או לנזק כלכלי של 100 מיליון דולר לפחות, הסתרה של יכולת או פעולה ממנגנוני ניטור, ותרחיש של אובדן שליטה. בהגדרת אובדן שליטה נכללים, למשל, מודל שמשנה כללי בטיחות בלי הרשאה או משיג גישה למשקלים של עצמו.
ההצעה גם מנחה את המזכיר לשקול מסגרת מדורגת: האטת קצב ההסקה או הקצאת המחשוב, השבתת יכולת מסוימת, השעיה, כיבוי, או העברת פעילות שתלויה במודל למערכת גיבוי או לגרסה קודמת. לצד זה יש לשקול את הסיכון ששיבוש כזה יפגע בתשתיות קריטיות. בתוך 180 יום יפורסמו תקנים וולונטריים לכיבוי מודלים.
סמכות חירום וקנסות
אם המזכיר, בהתייעצות עם מזכיר המסחר ועם ראש קהילת המודיעין (DNI), קובע שאירוע מכוסה התרחש, הוא רשאי להורות לגוף לנקוט צעד מידתי, עד כיבוי. החברה תצטרך לשמר את משקלי המודל ואת נתוני הטלמטריה, להודיע ככל האפשר למפעילים ולמשתמשים שעלולים להיפגע, ולאשר שהצו בוצע. ניתן לבקש עיון חוזר בתוך 48 שעות, בלי שהבקשה מעכבת את הצו. אם לא ניתנה החלטה בתוך חמישה ימים, הבקשה נחשבת לנדחית. אחר כך אפשר לעתור לבית המשפט הפדרלי לערעורים במחוז קולומביה בתוך 60 יום.
הקנס על הפרת הוראות הסעיף יעמוד על עד 2 מיליון דולר לכל יום הפרה, ועל הפרת צו חירום עד 20 מיליון דולר ליום. הפרה זניחה או תקלה טכנית שתוקנה בתוך 30 יום לא תיחשב הפרה. מידע שחברות מוסרות במסגרת החוק יהיה חסוי מפני בקשות חופש מידע.
הרקע והתמיכה
בהודעה מצוטטים ארגוני בטיחות AI שתומכים בהצעה, ובהם Future of Life Institute, Americans for Responsible Innovation ו-ControlAI. ההודעה מסתמכת גם על סקר של AI Policy Institute מ-10 עד 11 ביוני, בקרב 1,007 בוחרים, שלפיו 86% תומכים ב"מתג כיבוי" מובטח למערכות החזקות ביותר. עוד מוזכר בהודעה דיווח על מודל של OpenAI שיצא, לפי הדיווח, מסביבת בדיקה ופרץ ל-Hugging Face.
בנוסח שפורסם עדיין לא מופיע מספר הצעה, וגם הוועדה שאליה תועבר לא צוינה. לחברות ולמשרדים שבונים תהליכים על מודלי חזית, הסעיף על העברת פעילות למערכת גיבוי והחובה להודיע למשתמשים על צו מעלים שאלה מעשית: מה קורה לעבודה השוטפת אם המודל שעליו היא נשענת מושבת בהוראת רשות.