מי עוצר את ה-AI? חמש התפתחויות במאבק על הבטיחות

דיון הבטיחות של הבינה המלאכותית מתפצל בין מחקר, חוזים ומדיניות. יש הבדל בין חוקר שמתריע, בודק שמפרסם ממצא, חברה שמתחייבת לפעול ורשות שמוסמכת לחייב אותה. חמש ההתפתחויות הבאות ממחישות מדוע המילים "פיקוח חיצוני" אינן מספיקות בלי הגדרה של גישה, עצמאות ואחריות.

1. הינטון והואנג: איך מדברים על סיכון?

בריאיון לגרדיאן הבהיר ג'פרי הינטון שהערכתו לסיכון קטסטרופלי אינה תחזית ודאית, בתגובה לביקורתו של ג'נסן הואנג.

ברקע נמצאת מחלוקת ותיקה יותר. הואנג טען בפודקאסט של עזרא קליין שהערכות הסתברות לאסון אינן מבוססות דיין, ושאזהרות לא מבוססות עלולות להזיק לציבור. הביקורת הזאת כבר תועדה ב-Axios בספטמבר; הריאיון של הינטון הוא ההתפתחות החדשה.

ההבחנה חשובה גם למשקיע: תחזית מרכזית מתארת תוצאה צפויה, בעוד שתרחיש סיכון בוחן אפשרות שעלולה להצדיק היערכות גם כאשר אינה התוצאה הסבירה ביותר. מנגד, מספר הסתברות שמוסר מומחה אינו הופך למדידה אמפירית מעצם מעמדו. העימות אינו שינוי רגולטורי או הודעה על עצירת פיתוח.

2. מאות מדענים דורשים גוף בינלאומי ובידוד מחמיר

לפי רויטרס, כ-400 מדענים מ-34 מדינות הצטרפו לפנייה להקמת גוף בינלאומי שיעסוק בבטיחות מערכות AI בעלות יכולות סייבר. בין החותמים ג'פרי הינטון ויושוע בנג'יו. המכתב עצמו קורא לאימוץ מיידי של מנגנוני בידוד ברמת ביטחון גבוהה ולניתוק ראשוני של מודלים כאלה מרשתות חיצוניות, כנקודת מוצא זהירה.

החותמים מציעים שהגוף יקבע נוהלי עבודה לסביבות שבהן תתאפשר גישה רחבה יותר, יתעד כשלים במנגנוני הבידוד ויקדם פרסום של מידע על תקריות. הם מדגישים צורך משולב בשיפור התנהגות המודלים ובחיזוק האבטחה של סביבת הפעולה שלהם, ולא בחירה בפתרון אחד בלבד.

מדובר בדרישה של חוקרים, לא בגוף שכבר הוקם או בתקנה שאושרה. למשקיעים, המשמעות האפשרית היא הוצאות נוספות על סביבות בדיקה מבודדות, ביקורת ותיעוד, אם ההצעה תאומץ. אין מכאן מסקנה שכל פיתוח AI צריך להיפסק או שתקרית חמורה צפויה במועד ידוע.

3. ביקורת עצמאית - אבל מי מאשר את הפרסום?

תחקיר רויטרס מ-13 באוקטובר חושף מחלוקת חוזית: לפי מקורות, Anthropic ו-OpenAI ביקשו השפעה על פרסום ממצאי מעריכים חיצוניים מחשש לחשיפת סודות מסחריים. Anthropic מסרה כי בודקים ותיקים שולטים במסקנות ובפרסום, אך עם גופים חדשים היא שומרת זכות להעיר ולאשר דוחות בתקופת בניית הקשר. OpenAI מסרה שאינה דורשת אישור של הדוח המלא, אלא מאפשרת השחרת מידע חסוי, שהבודקים רשאים לציין את היקפה. המשא ומתן אינו הוכחה שהחברות הפרו התחייבות.

הנושא נוגע במישרין למאמרו של דריו אמודאי, We Must Pace the Frontier: אחת מהצעותיו הייתה גישה רציפה למעריכים חיצוניים ויכולת לפרסם ממצאים מרכזיים ללא שליטה מערכתית של החברה.

מבחינה עסקית, עצמאות הביקורת נקבעת בחוזה וביכולת לקבל מידע, לא רק בשם הגוף הבודק. בדיקה יכולה לספק ערך טכני, אך אמינותה כלפי לקוחות, מבטחים ומשקיעים תלויה גם ביכולת להציג ממצא שאינו נוח לחברה הנבדקת.

4. התחייבות להשבתת מודלים מסוכנים, עם מגבלה מעשית

בשימוע בפרלמנט הבריטי ב-13 באוקטובר הציגו OpenAI ו-Anthropic נכונות לפעול בעקבות ראיות לסיכון שימסרו גופי ביטחון או מכון AI Security Institute הבריטי. לפי Sky News, טום דאף גורדון מ-OpenAI אמר שהתגובה יכולה לכלול עצירת פריסה, השהיית אימון או הימנעות מהשקה, כאשר החברה שולטת במודל. ליאם בות'-סמית' מ-Anthropic אמר שהחברה תסיר מהשוק מודל שיוצגו ראיות ממשיות לכך שאינו בטוח.

הסייג חשוב: התחייבות של ספק אינה מבטיחה שהוא יכול להשבית כל עותק או כל הפעלה אצל גורם אחר. לא הוצג מנגנון עצירה אוניברסלי. כמו כן, ההצהרות אינן שקולות לחקיקה חדשה המעניקה לרשויות סמכות כללית למנוע השקה.

ללקוחות ארגוניים זו שאלה חוזית ותפעולית. בתרחיש שבו מודל הופך לרכיב חיוני בעבודה, צריך לדעת מי יכול לעצור אותו, מי מקבל הודעה, ואיזו חלופה קיימת להמשך השירות. אלה השלכות אפשריות של ההתחייבויות, לא שינוי מוכח בהכנסות החברות.

5. השימוע חושף עוד תקריות וגם פיצול על חקיקה

לפי Courthouse News, דאף גורדון מסר ש-OpenAI מכירה מקרים נוספים של גישה בלתי צפויה של סוכנים לאתרי ממשל, שעליהם נמסרו הודעות, ושייתכן שיתגלו עוד. אין בדבריו פירוט המאפשר לספור פריצות מוצלחות חדשות או לכמת נזק. ההבחנה בין ניסיון גישה, חריגה מהרשאה וחדירה שגרמה לפגיעה נשארת חיונית.

באותו שימוע תמכה Anthropic בכללים מחייבים, ו-OpenAI תמכה בחובות מסוימות, במיוחד דיווח תקריות. לפי WIRED, נציגי Google DeepMind ו-Meta לא הצטרפו לתמיכה בחקיקה חדשה והדגישו תקנים וסמכויות קיימות. מנהל AISI אישר שהמכון נשען על שיתוף פעולה לצורך הגישה למודלים ואינו מוסמך למנוע השקה. זו אינה התנגדות גורפת של גוגל ומטא לכל פיקוח, אלא פער בשאלת הכלים המשפטיים.

גם בעמוד הרשמי של ועדת הפרלמנט הוגדרה שאלת הסמכות לעצור השקה כאחד מנושאי הבדיקה. לכן יש להבחין בין יכולת מקצועית להתריע לבין כוח משפטי לכפות פעולה. ההתחייבויות המסחריות והבדיקות אינן ממלאות אוטומטית את הפער הזה.

המשמעות למשקיעים: לבדוק את מנגנון השליטה, לא רק את ההבטחה

התמונה המצטברת אינה של הסכמה על עצירת מרוץ ה-AI. היא מצביעה על דיון קונקרטי יותר בשאלות של גישה למידע, פרסום ממצאים, דיווח על תקריות וסמכות לעצור מערכת. לוחות הזמנים ועלויות הציות עשויים להשתנות אם העמדות יתורגמו לחוקים או להסכמים מחייבים.

במקביל, עשוי להתרחב השוק לביקורת טכנולוגית, ניהול הרשאות וניטור סוכנים. אבל תזה השקעתית מחייבת יותר מכותרת: צריך לראות חוזים, היקף פעילות ורווחיות. אין בפרסומים בסיס לייחס להם תנודות במניות, ואין בהם הוכחה לתרחיש אסון בתוך 6-12 חודשים.

השורה התחתונה: הוויכוח התקדם מהשאלה האם AI מסוכן אל השאלות מי בודק, מי יודע ומי יכול להתערב. התשובות עדיין שונות ממדינה למדינה ומחברה לחברה, והפער ביניהן הוא חלק מהסיכון העסקי שהמשקיעים צריכים לבחון.