הוועדה המשותפת לזכויות אדם של שני בתי הפרלמנט הבריטי (JCHR) פרסמה ב-14 בספטמבר דוח הקובע שהמסגרת המשפטית הקיימת בבריטניה אינה ערוכה לסיכוני ה-AI לזכויות אדם. ההמלצה המרכזית: חוק AI ייעודי, גוף פיקוח סטטוטורי אחד, ואיסור מוחלט על חלק מהשימושים.
האבחנה: מסגרת מפוצלת ואחריות במקום הלא נכון
הוועדה פתחה בבירור ביולי 2025, קיבלה יותר מ-70 הגשות בכתב וקיימה עשרה מושבי עדות, כולל עם השר האחראי על AI. לפי תקציר הדוח, הדין שעשוי לחול על מערכות AI הוא "טלאי ומבולבל", יש רגולטורים רבים שאחראים כל אחד לפינה אחרת, ואין גוף אחד שמתאם ביניהם. התוצאה, לפי הוועדה, היא פערים שבהם אנשים שנפגעו לא יוכלו לקבל סעד.
נקודה שרלוונטית במיוחד לעורכי דין שמייעצים לחברות היא שאלת האחריות לאורך שרשרת האספקה. הוועדה כותבת שלחברות הטכנולוגיה הגדולות שמפתחות את המערכות יש חופש רב מדי לגלגל את האחריות אל מי שמטמיע אותן, אף שהמטמיעים לרוב חלשים יותר ופחות מסוגלים לזהות סיכונים. לפי ההודעה לעיתונות של הוועדה, הדין הבריטי חל בעיקר בנקודת הפריסה, הרגולטורים אינם מוסמכים לבחון מערכות לפני השחרור, ומפתחי מודלים עובדים מול ה-AI Security Institute על בסיס וולונטרי בלבד.
מה הוועדה מבקשת
פרק המסקנות וההמלצות מפרט את מבנה החוק המוצע:
- AI Bill ייעודי, כפי שהממשלה הבטיחה בנאום המלך של 2024, שיעגן את הרגולציה ויממש את אמנת המסגרת של מועצת אירופה בנושא AI (המלצה בפסקה 178).
- גישה מבוססת סיכון, עם חובות מחמירות יותר למערכות ולמודלים בסיכון גבוה ונטל קל יותר למערכות בסיכון נמוך, כדי לא להעמיס על עסקים קטנים ובינוניים (פסקאות 186 עד 188).
- איסורים: שימוש בטכניקות סאבלימינליות, הסקת רגשות ושימוש לא הולם בפרופיילינג או בנתונים ביומטריים. הוועדה ממליצה לאסור גם פיתוח מערכות חזקות מאוד, כמו AGI, שעלולות לגרום נזק נרחב ולהתחמק משליטה אנושית. את הפירוט היא מציעה לקבוע אחרי שימוע ציבורי (פסקאות 200 ו-201).
- אישור מוקדם למערכות בסיכון גבוה לפגיעה בזכויות אדם, וחובות בדיקת נאותות (Due Diligence) מדורגות לכל השחקנים בשרשרת. ה-EU AI Act מוזכר כנקודת מוצא אפשרית, בהתאמה לצרכי בריטניה (פסקאות 204 עד 208).
- שקיפות: חובה לגלות מתי נעשה שימוש ב-AI בהחלטות בעלות השפעה משמעותית ומה מקור הנתונים (פסקה 213).
- "Human in the loop" אינו מספיק: לפי ההמלצה, תקנות מכוח ה-UK GDPR צריכות לקבוע שעצם נוכחות של אדם בתהליך אינה מעורבות אנושית משמעותית, ושיש להראות שהוא מיודע ועצמאי מספיק (פסקה 218).
- רגולטור אחד: גוף פיקוח עצמאי על בסיס סטטוטורי, עם מאגר ציבורי של אירועי AI, סמכות לפרסם קודים מחייבים, להטיל סנקציות, למנוע השקה של מערכת ולהורות על הסרתה מהשוק (פסקאות 226 ו-227). הוועדה ממליצה גם להעביר את ה-AI Security Institute לבסיס סטטוטורי ולחייב מפתחים להגיש אליו מודלים חדשים לבדיקה (פסקאות 231 ו-232).
הדוח מציין שלא עסק לעומק בהשפעת AI על מערכת המשפט, אך כותב שעדים העלו בנושא סוגיות "מדאיגות מאוד" שמצדיקות בחינה נפרדת (פסקה 55).
תגובת הממשלה
יו"ר הוועדה, חבר הפרלמנט Alex Sobel מהלייבור, אמר ששום מדינה בעולם, כולל בריטניה, אינה מחזיקה כיום בגישה חקיקתית ורגולטורית ל-AI שמתאימה למטרתה. לפי BBC, הדוח משתרע על כ-100 עמודים, ובנאום המלך של השנה לא הופיעה הצעת חוק AI ייעודית, אף שהממשלה התחייבה ב-2024 לחקיקה "מתאימה". השרה Georgia Gould אמרה ל-BBC שהממשלה "כבר מסדירה", והזכירה צעדים נגד דיפפייקים מיניים והצעת חוק בתחום הסייבר.
ממשלת בריטניה נדרשת להשיב לדוחות ועדה בתוך חודשיים. הדוח עצמו מזכיר שהשר לבינה מלאכותית, Kanishka Narayan, מונה ביולי לתפקיד מורחב שמשתתף בישיבות הממשלה, והוועדה רואה בכך הזדמנות לקדם את ההמלצות.
עוד בנושא
- חוק ה-AI האירופי חל מ-2 באוגוסט, אבל כללי הסיכון הגבוה נדחו לסוף 2027
- חוק ה-AI האירופי התחיל לחול: איסורים על שימושים אסורים וחובת אוריינות AI לעובדים