הדמוקרטים נערכים לחייב בדיקות בטיחות עצמאיות למודלי AI מתקדמים

לאחר ניצחון הדמוקרטים בבחירות האמצע בארה"ב, נערכים חברי המפלגה לקדם בינואר יוזמות חקיקה חדשות שיתמקדו בבטיחות מערכות בינה מלאכותית, בעלויות האנרגיה של חוות שרתים ובאחריות משפטית לנזקים שגורמות מערכות AI. כך דיווחה רויטרס ביום שישי, 6 בנובמבר, בהתבסס על שיחות עם מחוקקים, עוזרים פרלמנטריים וגורמים המעורבים בגיבוש המדיניות.

הפרט המשמעותי ביותר לדיון שהצית דריו אמודאי הוא הכוונה של חברת בית הנבחרים לורי טרהאן לקדם דרישה שמומחים עצמאיים יבחנו מודלי AI מובילים מול תקני בטיחות. את הכוונה אישר לרויטרס סגן ראש לשכתה, פרנסיס גרובר. טרהאן מתכוונת לקדם גם הבהרה של אחריות החברות כאשר מוצרי AI גורמים נזק.

יש כאן חפיפה ברורה עם אחת ההצעות המרכזיות במאמר We Must Pace the Frontier מספטמבר: יצירת מנגנוני פיקוח חיצוניים על מעבדות AI. עם זאת, אמודאי הציע מנגנון רחב יותר של מעריכים המשולבים בפעילות החברה ובעלי גישה שוטפת לתהליכי העבודה. יוזמת החקיקה שעליה דווח עוסקת בשלב זה בבדיקות חיצוניות של מודלים, ולא הוכח שהיא תכלול גישה מקבילה או האטת פיתוח. רויטרס לא הציגה אותה כתגובה ישירה למאמר.

הדרך לחקיקה עוד ארוכה. לפי רויטרס, הנשיא דונלד טראמפ מתנגד לחובות פיקוח מחייבות על פיתוח AI, ולכן גם רוב דמוקרטי בקונגרס אינו מבטיח אישור חוקים. המחוקקים יוכלו, עם זאת, לקדם שימועים, לזמן מנהלי חברות לעדות ולהגביר את הביקורת הציבורית על הענף. נכון למועד העדכון מדובר בתוכניות חקיקה, לא בחוק שהתקבל ולא בצעד רגולטורי שנכנס לתוקף.

המשמעות למשקיעים: דרישות אפשריות לבדיקות בלתי תלויות ולאחריות משפטית עשויות להגדיל בעתיד את הוצאות הציות, לשנות את לוחות הזמנים להשקת מודלים ולהעלות את חשיבותם של ספקי בדיקות ואבטחת AI. במקביל, יוזמות להגבלת התייקרות החשמל בשל חוות שרתים עשויות להשפיע על כדאיות השקעות בתשתיות. אלה סיכונים והזדמנויות אפשריים בלבד - אין בשלב זה בסיס לקבוע השפעה כמותית, או לייחס תנודת מניות למאמר אמודאי.