אנתרופיק פותחת את מערכותיה לשישה בודקי בטיחות חיצוניים

אנשי הארגון העצמאי METR קיבלו גישה למערכות הפנימיות של אנתרופיק, כך הודיעה החברה ביום חמישי, 15 באוקטובר 2026. המהלך הוא יישום קונקרטי של רכיב מרכזי במאמר שפרסם מנכ"ל החברה, דריו אמודאי, ב-12 בספטמבר, שבו קרא לשלב בודקים עצמאיים בתוך חברות המפתחות מודלי בינה מלאכותית מתקדמים.

לפי הודעת אנתרופיק, שעליה דיווחה רויטרס בשעה 20:35 שעון ישראל, שישה אנשי METR קיבלו מחשבים וציוד של החברה, שטחי עבודה וגישה לכלים ולמערכות פנימיות ברמה הדומה לזו הניתנת לצוותי הערכת הסיכונים שלה. הבודקים אמורים לבחון מודלים מתקדמים, תהליכי בטיחות וניהול סיכונים.

המבחן האמיתי: מה מותר לפרסם

המרכיב החשוב ביותר בהודעה הוא שאלת העצמאות. אנתרופיק מסרה כי METR יהיה רשאי לפרסם הערכות עצמאיות על סיכונים, תקריות ונהלי בטיחות ללא אישור מוקדם שלה. עם זאת, החברה תוכל לדרוש השחרות מוגבלות כדי להגן על מידע של לקוחות, מידע החוסה תחת חיסיון משפטי ופרטים מסוימים הנוגעים לארכיטקטורת המודלים.

ההודעה פורסמה יומיים בלבד לאחר תחקיר רויטרס שחשף מחלוקת בין מעבדות ה-AI לבין גורמי בדיקה חיצוניים סביב השליטה בפרסום ממצאים. לפי אותו דיווח, בתחילת אוקטובר ביקשו אנתרופיק ו-OpenAI לשמור לעצמן השפעה משמעותית על פרסום דוחות, בין היתר מחשש לחשיפת סודות מסחריים. אנתרופיק טענה בתגובה כי תיאור זה אינו משקף את כל שיחותיה עם הבודקים.

ההסדר החדש עם METR הוא אפוא התקדמות של ממש ביחס להצהרת כוונות כללית, אך לא פתרון מלא לשאלת העצמאות: היקף המידע שיועבר בפועל, טיב ההשחרות ויכולת הבודקים לזהות בעיות לאורך זמן ייבחנו רק לאחר שיפורסמו תוצרים.

מה בדיוק הובטח במאמר של אמודאי?

במאמר We Must Pace the Frontier קרא אמודאי להאט באופן מבוקר את קצב השיפור ביכולות המודלים, כדי לאפשר לבדיקות הבטיחות ולמנגנוני ההגנה להדביק את ההתקדמות. הצבת בודקים חיצוניים בתוך המעבדות הייתה הצעד הראשון בתוכניתו. צעד שני נוגע לתיאום בין חברות וממשלות דמוקרטיות, ושלישי לשיתוף פעולה בינלאומי נרחב יותר.

הרחבת הגישה ל-METR אינה שקולה לעצירת אימון מודלים או להאטה מוכחת של קצב פיתוחם. גם תרחיש הסיכון של אמודאי לטווח של 6-12 חודשים הוצג כאזהרה על אפשרות עתידית, ולא כתחזית ודאית.

עוד בספטמבר הודיעה אנתרופיק על שיתוף פעולה עם Accenture באמצעות חטיבת Faculty לצורך בדיקות בטיחות פנימיות. בניגוד לתוכנית ההיא, כאן מדובר בצוות של ארגון מחקר ללא מטרות רווח, שלו הוגדרו זכויות פרסום פומביות מפורשות על פי הודעת החברה.

המשמעות למשקיעים

עבור משקיעים בחברות AI, השאלה אם ניתן לבצע בקרה עצמאית על מודלים מתקדמים מקבלת משמעות עסקית: בדיקות מתמשכות עשויות להגדיל הוצאות תפעול, לחשוף מוקדם כשלים ולצמצם סיכונים משפטיים ומוניטיניים. בהמשך הן גם עשויות להפוך לתנאי בהתקשרויות עם ממשלות וארגונים גדולים.

לספקי שירותי בדיקה, אבטחה וניהול סיכוני AI עשוי להיווצר שוק מתרחב. עם זאת, לא פורסם שווי כספי להסדר עם METR, אין הערכה מאומתת להשפעתו על רווחיות אנתרופיק, ואין בסיס לייחס לו תנועות במניות הסקטור.

השורה התחתונה

זהו אחד הצעדים הישירים והמדידים ביותר מאז פרסום מאמר אמודאי: במקום להסתפק בקריאה לפיקוח, אנתרופיק הכניסה שישה בודקים חיצוניים לתוך מערכותיה והכריזה על זכותם לפרסם ממצאים ללא אישורה מראש. המבחן הבא יהיה תוכן הדוחות שיצאו מהבדיקה ומידת חופש הפעולה של החוקרים בפועל.