Anthropic פתחה למעריכים חיצוניים של METR גישה שמתקרבת לזו של עובדים פנימיים. לפי הפוסט הרשמי של החברה, שישה אנשי METR קיבלו גישה דמוית עובד למערכות הפנימיות שלה: מחשבים של החברה, שטח עבודה במשרדיה וכלים פנימיים שברמה דומה לזו של צוותי הערכת הסיכונים של Anthropic עצמה. מדובר בשינוי ביחסים בין מעבדת AI למי שבודק אותה מבחוץ. לא עוד בדיקה על בסיס מה שהחברה בוחרת להציג, אלא גישה רחבה יותר למערכות עצמן.
מה נכתב בתנאי הגישה
לפי הפוסט של Anthropic, METR תפרסם את ניתוח רמות הסיכון, התקריות והפרקטיקות של החברה, וההחלטה לפרסם אינה טעונה אישור ממנה. Anthropic יכולה לדרוש השחרה של מידע, אך רק בקטגוריות צרות ומוגדרות מראש: מידע על לקוחות, מידע המוגן בחיסיון עורך דין-לקוח, ומידע על ארכיטקטורת המודלים. METR רשאית לומר בפומבי אם לדעתה ההשחרות מוצדקות, בתנאי שלא תחשוף את המידע המושחר.
החברה מדגישה גם שהעבודה עם METR מוגבלת לצוות קטן הפועל לפי הסכמים הניתנים לאכיפה. שאר עובדי METR מופרדים מהצוות הזה, כולל חוקרים שעובדים עם Anthropic בפרויקטים אחרים. לדברי החברה, ההערכה המשובצת אינה דרך לגורמים אחרים להשיג את המידע שלה או של לקוחותיה ושותפיה.
שלוש שכבות של מעריכים
Anthropic מתארת מערכת בשלוש שכבות. בשכבה הראשונה נמצאים מעריכים שמבצעים בדיקות סיכון מצומצמות, ומפרסמים את ממצאיהם רק באישור החברה. דוגמה לכך היא SecureBio, ארגון ביטחון ביולוגי שעובד עם Anthropic. בשכבה השנייה המעריכים מקבלים מידע רב יותר ויכולים לפרסם בלי אישור מראש, אף שהחברה עדיין יכולה לדרוש השחרה של קטגוריות מסוימות. METR היא כרגע המעריכה היחידה בשכבה השלישית, שמוסיפה לשכבה השנייה את הגישה הדמוית עובד.
החברה מציינת גם שהיא עובדת עם Accenture כמעריכה, וכי היא מנהלת דיונים מוקדמים עם ארגונים נוספים, ביניהם Hugging Face. לפי הפוסט, METR כבר ביצעה בשנה האחרונה כמה סבבי בדיקה של דוחות הסיכון של Anthropic.
הקשר: הערכה חיצונית ורגולציה
ההודעה מגיעה בתקופה שבה הרגולטורים מחפשים דרכים לבדוק מה קורה בתוך מעבדות ה-AI הגדולות. כפי שדיווחנו על צווי החקירה של ה-FTC לשתי החברות בנוגע לתקריות אבטחה של סוכני AI, ודרישות המידע הראשונות של האיחוד האירופי על פי חוק ה-AI.
ההבדל מהפיקוח הרגולטורי הוא מקור הסמכות: רגולטור פועל מכוח חוק, ואילו מעריך כמו METR פועל מכוח הסכמה עם החברה. ההסכמה הזו מרחיבה את מה שמעריך חיצוני רואה, ולכן גם את מה שהוא יכול לומר בפומבי. Anthropic עצמה מציירת את ההשוואה לבנקים, שבהם הרגולטורים מציבים בודקים קבועים בתוך הבנקים הגדולים.
השורה התחתונה
המהלך של Anthropic הוא תקדים שכדאי לעקוב אחריו. המבחן האמיתי יהיה כש-METR תפרסם בפועל את הערכתה, ותסביר אילו השחרות נדרשו ולמה. השאלה הבאה היא אם מעבדות נוספות יאמצו מודל דומה, ואם רגולטורים יראו בו תחליף לפיקוח רשמי או השלמה לו.
מקורות:
- Anthropic, "An update on independent evaluators": https://www.anthropic.com/news/an-update-on-independent-evaluators
- TechCrunch, דיווח על הגישה של METR ל-Anthropic: https://techcrunch.com/2026/10/15/anthropic-is-letting-metr-researchers-look-under-the-hood-with-employee-level-access?output=1