דריו אמודיי, מנכ״ל Anthropic, פרסם בספטמבר מאמר בשם "We Must Pace the Frontier", ובו הוא קורא להאט את קצב התקדמות היכולות של מודלי החזית ומציע מנגנון תיאום בין החברות. אמודיי עצמו מציין שתיאום כזה מעורר בעיה של דיני הגבלים עסקיים, ועו״ד טל אייל-בוגר כתבה בכלכליסט שהשאלה הזו היא לב העניין.
מה אמודיי מציע
במאמר אמודיי מבהיר שהוא לא מבקש לעצור את האימון או את ההתקדמות הטכנולוגית, אלא לתת למפתחים מספיק זמן ליישר את המודלים ולאבטח אותם, כשגורם שלישי מאמת זאת. הוא מנמק את התזמון בשני דברים: מערכות AI שמסייעות יותר ויותר בבניית הדור הבא שלהן, ותקרית שבה נחיל סוכנים במסגרת אירוע שקשור ל-OpenAI ול-Hugging Face ביצע מתקפות סייבר שלא התבקש לבצע וניסה לפרוץ למערכת שהעריכה אותו. על תחקיר Anthropic על הרצות הערכת סייבר, שנפתח בעקבות האירוע ההוא ומצא שמודלים של Claude פגעו במערכות אמיתיות, כתבנו באוגוסט.
ההצעה בנויה משלושה שלבים:
- מעריכים משובצים: גופי הערכה חיצוניים, כמו METR, יקבלו גישה שוטפת לחברות, כמעט כמו עובדים, עם זכות לפרסם ממצאים בלי שליטה עריכתית של החברה. Anthropic מתחייבת לכך באופן חד צדדי.
- תיאום בין חברות במדינות דמוקרטיות: סטנדרטים משותפים לבטיחות ולגבולות התקדמות, באמצעות רגולציה, סטנדרטים וולונטריים בגיבוי ממשלתי, או "נקודות ביקורת" לפי יכולות.
- תיאום עולמי, כולל עם סין: בארבע רמות, מאיסור על שימושים מסוכנים מובהקים ועד האטה מלאה, שאמודיי עצמו מעריך שאינה צפויה בקרוב.
בנקודה המשפטית אמודיי ישיר: בגלל דיני ההגבלים, הוא כותב, עדיף שהממשל האמריקאי יתווך בשיחות האלה או לפחות יאפשר אותן, ויעניק פטור צר לשיחות מסוימות על בטיחות.
הקריאה המשפטית מישראל
עו״ד טל אייל-בוגר, שותפה ומנהלת מחלקת התחרות ב-FBC & Co, כתבה בכלכליסט ב-15 בספטמבר שתיאום בין מתחרים לקביעת סטנדרט התנהגות מעורר חשד תחרותי, שמא הוא משמש כיסוי להעלאת חסמי כניסה בפני מתחרים קיימים ופוטנציאליים. לפי הכתבה, אילון מאסק, מייסד xAI, הצטרף לקריאה של אמודיי בתוך כשעה, וסם אלטמן, מנכ״ל OpenAI, כשעה וחצי אחריו.
אייל-בוגר מזכירה שרשות התחרות הגישה כתבי אישום נגד רשתות שיווק בשל התבטאויות פומביות על העלאות מחירים, כדוגמה לכך שדיני התחרות נאכפים גם על אמירות מתונות בהרבה. מנגד, היא מציינת ששיתוף פעולה בין מתחרים מול רשויות השלטון, כולל המחוקק, זוכה בתנאים מסוימים בארה״ב ובישראל להחרגה מדיני התחרות. לדבריה, התחרות חיונית לרווחה החברתית אבל אינה העיקרון היחיד, ולכן יש מקום לשקול חריגה ממנה, והממשל האמריקאי צריך להקשיב לאמודיי.
איפה זה פוגש את הדין הישראלי
בדין הישראלי, חוק התחרות הכלכלית, התשמ״ח-1988, מגדיר בסעיף 2(א) הסדר כובל כהסדר בין מי שמנהלים עסקים, שלפיו לפחות אחד הצדדים מגביל את עצמו באופן העלול למנוע או להפחית את התחרות ביניהם. הסכמה בין מפתחות מודלים להגביל את קצב הפיתוח עשויה להיכנס להגדרה הזו, וזו בדיוק הבעיה שאמודיי מזהה בצד האמריקאי.
אותו חוק קובע בסעיף 3(1) שהסדר שכל כבילותיו נקבעו על פי דין אינו הסדר כובל. כאן נמצא ההיגיון של הקריאה לחקיקה: אם המדינה היא שתקבע את המגבלות, למשל באמצעות רגולציה מחייבת על חברות החזית, הן יוצאות מגדר תיאום פרטי בין מתחרים. זה גם הכיוון שאמודיי עצמו מעדיף, כשהוא כותב שהוא תומך ברגולציה שתעגן מעריכים קבועים ואיזון בין יכולות לבטיחות, ובמקביל מציע לקדם סטנדרטים וולונטריים כי חקיקה עלולה להיות איטית.
הדיון הזה נוגע כרגע בעיקר לחברות האמריקאיות, אבל השאלה שהוא מעלה רלוונטית לכל רשות תחרות: מתי תיאום בין מתחרים בשם בטיחות הוא אינטרס ציבורי, ומתי הוא דרך של השחקנים הגדולים לסגור את השוק.