הצטרפו לקורס

הבית הלבן ומעבדות ה-AI חתמו על אמנה וולונטרית: מבקר חיצוני וועדת דירקטוריון

איור: ארבעה שערים בשדה פתוח בלי גדר משני צדיהם ושביל שעוקף אותם, כמשל לארבע שכבות בקרה בלי סנקציות ובלי תוקף משפטי

הנשיא דונלד טראמפ ומנהלי שש מחברות ה-AI והטכנולוגיה הגדולות בארה״ב חתמו ב-29 בספטמבר על מסמך בן עמוד אחד שמבקש מהמעבדות להקים ארבע שכבות בקרה על המודלים שלהן, ובהן מבקר חיצוני וועדת דירקטוריון ייעודית. המסמך וולונטרי לחלוטין, ואין לו תוקף משפטי.

מה נחתם ומי חתם

המסמך, שכותרתו White House Accord on Super Intelligence, פורסם על ידי טראמפ ברשת Truth Social בערב 29 בספטמבר, אחרי ארוחת צהריים בבית הלבן עם מנהלי החברות. לפי סוכנות AP, החותמים הם מנכ״ל Anthropic דריו אמודיי, מנכ״ל Google סונדאר פיצ׳אי, מנכ״ל Meta מארק צוקרברג, נשיא OpenAI גרג ברוקמן, מנכ״ל Nvidia ג׳נסן הואנג ואילון מאסק כמייסד xAI. סם אלטמן לא מופיע ברשימה.

לפי The Next Web, Microsoft ו-Amazon לא חתמו, אף שסאטיה נאדלה וג׳ף בזוס השתתפו בארוחה. באותו דיווח מובאים דיווחים של Semafor ושל Politico, שלפיהם, על סמך מקורות אנונימיים, צוקרברג הוא שיזם את הטיוטה והפיץ אותה. Meta לא הגיבה לכך.

טראמפ תיאר את המסמך כ״מחייב מוסרית״. Bloomberg Law מדגיש שאין לו משקל משפטי.

ארבע שכבות הבקרה

לפי Reuters, המסמך מבקש מכל חברה:

  • ניטור פנימי של המודלים בזמן האימון והפריסה, בתחומים כמו סייבר, ביטחון ביולוגי ואיומים כימיים. המטרה, בלשון המסמך, היא שהמודלים לא יפרצו למערכות טכניות או יגיעו אליהן בדרכים לא מכוונות.
  • צוות הבטחה פנימי שיוודא שכל הבקרות, הניטור והגילוי פועלים כמתוכנן.
  • מבקר או מעריך חיצוני בלתי תלוי שיבדוק אם מערכות הבקרה והניטור עובדות.
  • ועדה בלתי תלויה של הדירקטוריון שתקבל דיווחים מהצוותים הפנימיים ומהמבקרים.

החברות מתחייבות גם להיפגש באופן קבוע כדי לגבש סטנדרטים ושיטות עבודה מומלצות. בסוף המסמך נכתב שעם הזמן ״ייתכן שיהיה הגיוני לעגן את הצעדים האלה בחוק או בתקנות״, ושהחברות מחויבות ליישם את הבקרות גם אם לא יידרשו לכך. לפי סיכום הדיווחים ב-The Next Web, אין במסמך סנקציות, אין לוח זמנים ואין חובה לפרסם את תוצאות הביקורות.

שינוי טון, לא שינוי שיטה

Bloomberg Law מתאר את המהלך כשינוי בעמדת הממשל: טראמפ כינה בעבר את חששות ה״יום האחרון״ סביב AI ״הונאה״, וצאר ה-AI הקודם שלו, דייוויד סאקס, כינה הערכות חיצוניות ״פסאודו-מדע״. עכשיו הבית הלבן מאמץ מבקרים חיצוניים, גם אם רק כהמלצה.

באותו יום אמר טראמפ, לפי AP, שהממשל ״לעולם לא יחנוק״ את צמיחת ה-AI ולא יתמוך ב״מעקות בטיחות״. הוא הוסיף שבכוונתו למנות ועדה של כעשרה אנשים שתפקח על המיזם, ואדם שירכז את האמנה. הוועדה הזו אינה חלק מנוסח המסמך עצמו. אמודיי אמר לכתבים שלטכנולוגיה ״יש סיכונים אמיתיים מאוד״, ושהמנגנון לטיפול בהם ״עדיין בדיון״.

הביקורת

AP הביא גם קולות ספקניים. אלכס פסקל, המנהל של Berkman Klein Center בהרווארד, טען שהניסוח עמום ושהדרך היחידה להפחית את הסיכונים היא אחריות משפטית ורגולציה. רובין ג׳יה מאוניברסיטת USC הסתייג מההישענות על פיקוח עצמי. לפי AP, חלק מהצעדים כבר ננקטים בחברות בצורה כלשהי או הובטחו בעבר.

לעורכי דין שמלווים חברות טכנולוגיה, המבנה עצמו מוכר: מבקר חיצוני, ועדת דירקטוריון, צוות הבטחה פנימי. זו שפה של ממשל תאגידי ושל ציות, לא של רגולציה. כל עוד אין חקיקה, תוכן הבקרות, היקף הביקורת ומה ייחשף לציבור נקבעים בתוך החברות עצמן. על הדיון בסנאט בהצעת חוק שתטיל חובת זהירות על מפתחי המודלים כתבנו בספטמבר.

מקורות

פסיקה ורגולציה לפני שהן מגיעות אליכם מהלקוח

גיליון חודשי אחד, למשפטנים שרוצים לדעת מה נפסק, מה השתנה ברגולציה, ומה זה משנה לעבודה שלהם בפועל. בלי ספאם, וניתן להסיר את ההרשמה בכל עת.