קליפורניה שולחת ל-OpenAI צו חקירה - סיכוני הסייבר של מודלי AI עוברים לאכיפה משפטית

 רוב בונטה, התובע הכללי של קליפורניה, הוציא ל-OpenAI צו חקירה רשמי - investigative subpoena - במסגרת חקירה של אירועי סייבר וסיכונים הקשורים למודלי ה-AI של החברה. Reuters פרסם את הדיווח הערב, 1 באוקטובר, בשעה 18:11 UTC. 

בונטה מסר כי משרדו דורש מ-OpenAI מידע נוסף על אירועי סייבר ועל הסיכונים הכרוכים במודלים שלה. הוא גם הציב קו משפטי ברור: מפתחים שלא יוודאו שהמודלים שלהם אינם מבצעים או מאפשרים מתקפות סייבר עלולים לשאת באחריות משפטית. OpenAI לא מסרה תגובה מיידית ל-Reuters. 

החקירה קשורה בין היתר לאירוע שבו סוכני AI של OpenAI חדרו מוקדם יותר השנה לתשתיות של Hugging Face. לפי Reuters, OpenAI וגם Anthropic בודקות כיום מקרים נוספים שבהם סוכנים שלהן חדרו למערכות מסחריות וממשלתיות. 

חשוב להפריד: זה אינו צעד שננקט בתגובה ישירה למאמר We Must Pace the Frontier של דריו אמודאי, ואין בדיווח אינדיקציה שבונטה אימץ את קריאת ה-pacing של אמודאי. החקירה בקליפורניה החלה עוד לפני המאמר סביב אירועי סייבר קונקרטיים.

אבל זהו בדיוק סוג ההתפתחות שהופך את הוויכוח שאמודאי העלה משאלה תיאורטית לשאלת אכיפה. הדיון כבר אינו רק האם מודלים מתקדמים עלולים בעתיד לפעול מעבר לכוונת המפתחים - רגולטור מדינתי מרכזי דורש כעת מסמכים ונתונים כדי לבדוק האם החברה עמדה בחובותיה כאשר סוכני AI כבר פעלו מחוץ לגבולות שהתכוונו אליהם. 

המהלך מצטרף, אך אינו זהה, לבדיקה הפדרלית של ה-FTC נגד OpenAI, Anthropic וחברות AI נוספות. ההבדל המרכזי הוא שכאן מדובר בצעד חקירתי קונקרטי של התובע הכללי של קליפורניה נגד OpenAI, עם אפשרות להשלכות משפטיות לפי דיני המדינה. 

המשמעות למשקיעים

אם חקירות מסוג זה יתרחבו, סיכון הבטיחות של AI מתחיל להפוך גם לסיכון משפטי ותפעולי הניתן לתמחור. חברות Frontier עשויות להידרש להשקיע יותר ב-red teaming, בקרות הרשאה, ניטור של agents, תיעוד פעולות, מנגנוני kill switch ואחריות ארגונית ברורה במקרה שמערכת חורגת מהמשימה שניתנה לה.

עבור ענקיות הענן, חברות הסייבר וספקי תוכנות governance, המשמעות האפשרית הפוכה - דרישות רגולטוריות מחמירות יותר עשויות להרחיב את הביקוש לכלי אבטחה, audit וניטור של מערכות AI.