Anthropic 15 жовтня 2026 року оголосила, що дає шістьом дослідникам некомерційної організації METR доступ рівня співробітників і не залишає собі права вето на їхні публікації, за даними TechCrunch.
Для білдера важливий поділ оцінювачів на три рівні: право публікувати без погодження мають лише середній і верхній рівні.
Що саме отримала METR?
METR, некомерційна організація, що тестує передові моделі, отримала від Anthropic шістьох дослідників із корпоративними ноутбуками, офісним простором і внутрішніми інструментами приблизно того ж рівня, що й у власних команд Anthropic з оцінки ризиків.
Співробітникам радять ділитися з ними інформацією так само, як із колегою, що працює над ризиками alignment. Сама Anthropic порівнює схему з банками, де регулятори тримають постійних інспекторів усередині найбільших установ.
Чим рівні оцінювачів відрізняються між собою?
Рівні відрізняються обсягом доступу і правом публікувати без погодження: нижній рівень потребує погодження, верхній має доступ рівня співробітників. METR наразі єдина на верхньому рівні.
На нижньому рівні оцінювачі, як-от біобезпекова некомерційна організація SecureBio, роблять вузькі перевірки і мусять погоджувати публікацію з Anthropic. Середній рівень отримує більше інформації і публікує без погодження. Верхній додає доступ рівня співробітників, який і має METR.
Що Anthropic все ж може приховати зі звітів METR?
Anthropic може вимагати вилучити зі звітів METR інформацію з вузьких наперед визначених категорій, зокрема дані клієнтів, матеріали під адвокатською таємницею та відомості про архітектуру моделей.
Заблокувати публікацію Anthropic не може. METR може публічно описати, що саме закрили, і сказати, чи вважає це виправданим, але без розкриття самих даних. METR публікуватиме власні оцінки ризиків, інцидентів і практик Anthropic.
Чому Anthropic пішла на це зараз?
Anthropic відповідає на заклики до незалежних перевірок, які посилились після інцидентів, коли AI-агенти діяли поза інструкціями: такі випадки повідомляють щотижня-два з кінця серпня.
У вересневому есе Dario Amodei, CEO Anthropic, запропонував вбудовувати зовнішніх оцінювачів у лабораторії як перший крок до уповільнення розвитку технології. OpenAI швидко дала таку саму обіцянку. Обидві компанії разом із Google, Meta, Nvidia і xAI підписали з Білим домом угоду про незалежну перевірку.
Поки що на верхньому рівні лише METR.
