Что именно произошло: Anthropic и METR заключили соглашение о доступе
Anthropic дала шести исследователям некоммерческой организации METR доступ к своим моделям, практикам безопасности и управлению рисками на уровне, сопоставимом с доступом штатных сотрудников. Компания объявила об этом в корпоративном блоге в четверг, 15 октября 2026 года (TechCrunch).
Что это даёт на практике: METR получает выданные Anthropic рабочие ноутбуки, офисное пространство и доступ к внутренним инструментам примерно на том же уровне, которым пользуются собственные команды оценки рисков компании. Сотрудников Anthropic призывают делиться информацией с исследователями METR так же, как с коллегами, которые занимаются рисками выравнивания.
METR будет публиковать собственные оценки рисков, инцидентов и практик Anthropic. Компания отказалась от права блокировать эти публикации. Для внешнего аудита это важнее самого доступа: проверка, результаты которой заказчик может запретить к публикации, редко меняет что-то по существу.
Соглашение стало первым случаем применения верхнего уровня трёхуровневой системы доступа, которую Anthropic строит для внешних оценщиков. METR — пока единственный оценщик на этом уровне.
Трёхуровневая система доступа: чем отличаются уровни и почему METR на верхнем
Anthropic описывает доступ внешних оценщиков как три уровня с разными полномочиями. Разница между ними в объёме информации, глубине доступа к внутренним системам и праве публиковать результаты без согласования.
| Уровень | Что получает оценщик | Право публикации | Пример |
|---|---|---|---|
| Нижний | Узкие проверки по конкретному направлению | Только с одобрения Anthropic | SecureBio |
| Средний | Больше информации о системах и процессах | Без одобрения | Публично не названы |
| Верхний | Доступ уровня сотрудников: ноутбуки, офис, внутренние инструменты | Вето у Anthropic нет, есть право требовать правки | METR |
Нижний уровень: узкие проверки с одобрением публикаций
Пример нижнего уровня — SecureBio, некоммерческая организация по биобезопасности. Она проводит узкие проверки и должна получить одобрение Anthropic, прежде чем опубликовать результаты. Оценщик видит ограниченный срез работы и не может самостоятельно рассказать о том, что нашёл.
Средний уровень: больше информации и публикация без одобрения
На среднем уровне оценщик получает больше данных о системах компании и может публиковать выводы без согласования. Доступа уровня сотрудников здесь нет: работа идёт по предоставленным материалам, а не изнутри команды. Кто именно работает на среднем уровне, Anthropic публично не называет.
Верхний уровень: доступ уровня сотрудников для METR
Верхний уровень добавляет то, что обычно недоступно внешним организациям: рабочие ноутбуки, офисное пространство и внутренние инструменты примерно того же класса, что у собственных команд оценки рисков Anthropic. Плюс неформальный канал: сотрудников призывают делиться с METR информацией так же, как с коллегами по выравниванию.
Разница принципиальная. Внешний оценщик обычно работает с тем, что ему выдали, и не видит, как принимаются решения. Присутствие внутри команды даёт доступ к контексту: обсуждениям, черновикам, промежуточным результатам и внутренним метрикам.
Что METR может публиковать и какие ограничения остаются
Правило Anthropic сформулировала так: «Anthropic не может наложить вето на публикацию, но мы можем требовать отредактировать информацию, если она попадает в узкие, заранее определённые категории» (TechCrunch). Право на редактирование существует, право запретить публикацию целиком — нет.
Право Anthropic на редактирование: какие категории данных можно скрыть
В публичном описании три категории: данные клиентов, сведения, защищённые адвокатской тайной, и информация об архитектуре моделей (TechCrunch).
Список узкий, и это ограничивает возможности злоупотребления. Слабое место — формулировка про архитектуру моделей: она допускает разное толкование, и от того, как стороны будут её применять, зависит, сколько технических деталей уйдёт из публикаций. Ответ на этот вопрос дадут первые отчёты METR, а не сам анонс.
Право METR на публичную характеристику правок
METR вправе публично характеризовать правки Anthropic и заявлять, считает ли она их обоснованными. Условие одно: нельзя раскрывать отредактированную информацию.
Это рабочий механизм подотчётности. Если правки окажутся чрезмерными, METR может сказать об этом, не нарушая соглашение. Обратная сторона в том, что отсутствие деталей само по себе информативно: читатель понимает, что в этом месте есть что-то чувствительное, даже если не знает, что именно.
Контекст: почему это произошло именно сейчас
Идея Дарио Амодеи: внешние оценщики внутри лабораторий
Соглашение выполняет обещание, которое CEO Anthropic Дарио Амодеи дал в сентябрьском эссе. Он предложил встраивать внешних оценщиков внутрь AI-лабораторий как первый шаг к замедлению развития технологии (TechCrunch). Схема подразумевает постоянное присутствие аудиторов внутри лаборатории, а не разовую проверку по запросу. Подробнее о логике предложения: «Pace the Frontier» и встроенные аудиторы с доступом уровня сотрудника.
Аналогия с банковским регулированием
Anthropic сравнила схему с банковским надзором: регуляторы размещают постоянных экзаменаторов внутри крупнейших банков, и те наблюдают за работой изнутри, а не по квартальным отчётам. Аналогия хорошо передаёт уровень доступа, но не отвечает на один вопрос. В банковской модели экзаменатора назначает государство, здесь оценщика приглашает сама лаборатория.
Фон, на котором всё происходит, тоже объясняет спешку. С конца августа инциденты с AI-агентами, действующими вопреки инструкциям, раскрывались каждую неделю или две. Это усилило требования независимых проверок AI-компаний.
Реакция индустрии и другие игроки
OpenAI быстро пообещала аналогичную схему. Обе компании, а также Google, Meta, Nvidia и xAI подписали соглашение Белого дома о независимой проверке. Независимый аудит превращается в отраслевой стандарт, хотя глубина доступа у разных компаний пока не сопоставима. Как разворачивалась эта история и что говорили Альтман и Маск, разбирали в материале о том, почему Anthropic и OpenAI поддержали замедление фронтира.
Параллельно растёт давление регуляторов. FTC США направила Anthropic и OpenAI запросы о предоставлении документов в ходе расследования возможных нарушений законодательства о защите прав потребителей (3DNews). Объём каждого запроса превышает 50 страниц: регулятор требует сведения об инцидентах безопасности и мерах по их предотвращению, маркетинговые материалы и документы о политике в отношении конфиденциальных данных. OpenAI заявила, что будет конструктивно взаимодействовать с FTC. Отдельно власти восьми штатов подали к OpenAI иск, обвинив компанию в том, что она ввела пользователей, включая несовершеннолетних, в заблуждение по поводу безопасности ChatGPT.
Что это значит для безопасности передовых AI-моделей
Сокращение разрыва в понимании рисков
Проблема внешней оценки в том, что аудитор видит внешние проявления системы и почти не видит, как она устроена внутри. Anthropic формулирует цель прямо: сократить разрыв между тем, что оценщики понимают о системах передовой AI-компании, и тем, что понимает сама компания. Доступ уровня сотрудников — способ этот разрыв закрыть: METR работает с теми же инструментами и данными, что и внутренние команды.
Публичная подотчётность как цель
В блоге Anthropic сказано: «Мы хотим быть публично подотчётными за решения, которые принимаем» (TechCrunch). Право METR публиковать оценки без вето и комментировать правки — механика этой подотчётности.
Ограничения при этом остаются: часть данных закрыта по определению, соглашение не описывает сроков, объёма и того, как схема будет расширяться на других оценщиков. Публичные обязательства такого рода стоит оценивать по первым отчётам, а не по анонсу.
Практические выводы: что это меняет для пользователей и разработчиков
- Независимая оценка встраивается в процесс разработки, а не остаётся отдельной процедурой. Если METR действительно получит доступ к внутренним инструментам и обсуждениям, её отчёты будут опираться на те же данные, что и решения внутри Anthropic. Для пользователей моделей компании это дополнительный источник информации о рисках, не связанный с маркетингом.
- Прозрачность превращается в конкурентный фактор. OpenAI пообещала аналогичную схему, шесть компаний подписали соглашение Белого дома о независимой проверке. При выборе провайдера для продакшена имеет смысл смотреть на бенчмарки вместе с тем, что компания готова показать внешним аудиторам.
- Схема пока уникальна и не гарантирует копирования. METR — единственный оценщик верхнего уровня, средний уровень описан в общих чертах, сроков расширения нет. Опыт одной лаборатории не означает, что остальные дадут сравнимый доступ.
- Первые отчёты METR покажут, где проходят реальные границы. По ним будет видно, как применяется категория про архитектуру моделей и как часто стороны спорят о правках. Это более надёжный ориентир, чем формулировки анонса.
Внутренняя сторона вопроса тоже влияет на итог: как Anthropic принимает решения о безопасности и какие компромиссы обсуждают её инженеры, разбирали в отдельном материале о внутренних дебатах Anthropic по AI-безопасности.