Anthropic дала шести экспертам METR доступ как у сотрудников

Подробно

Что именно получили сотрудники METR в Anthropic?

По данным Anthropic, шесть сотрудников METR получили корпоративное оборудование, места в офисе и доступ к внутренним инструментам и системам примерно на уровне собственных команд компании по оценке рисков. В каком офисе или городе работает группа, компания не уточняет. Сотрудникам Anthropic рекомендовано делиться с этой командой информацией так же, как с коллегами, которые занимаются рисками выравнивания моделей.

Есть исключения. В качестве примеров Anthropic называет данные клиентов, сведения под адвокатской тайной и информацию об архитектуре моделей. Это не исчерпывающий перечень. Ограничение на архитектурные данные компания объясняет риском случайной утечки и утверждает, что для оценки рисков такие сведения обычно мало нужны. Если же архитектура окажется существенной для проверки, Anthropic намерена по возможности предоставлять эти данные после отдельного внутреннего согласования.

Доступ получила только небольшая группа METR. Она работает по юридически обязательным соглашениям и правилам безопасности Anthropic. Остальные сотрудники METR, в том числе исследователи на других совместных проектах, изолированы от информации этой команды.

Сама METR признаёт, что даже при «доступе как у сотрудника» компания может отклонять отдельные запросы. Поэтому фактический доступ не равен доступу самых привилегированных старших сотрудников лаборатории.

Может ли Anthropic запретить публикацию выводов METR?

Целиком запретить не может. METR должна публиковать анализ уровней риска, инцидентов и практик Anthropic. В заявлении компании сказано:

«Anthropic не может наложить вето на публикацию, но может потребовать удалить сведения, попадающие в заранее определённые категории».

Важная оговорка: решение о том, относится ли информация к защищённой категории, в конечном счёте принимает Anthropic. Это уточнение компания добавила в свой материал 16 октября, на следующий день после первой публикации. В актуальной версии METR сохраняет право делать ограниченные публичные заявления о том, насколько полными были полученные доступ и информация. Права публично оценивать обоснованность каждого удаления там не прописано, хотя некоторые ранние пересказы утверждали обратное.

В METR пообещали раскрыть условия работы. Как сообщило Reuters, в организации заявили:

«В соответствии с нашей политикой прозрачности отчёт открыто опишет предмет работы, предоставленный доступ и другие ограничения».

Согласно политике METR, раскрытию подлежат договорные ограничения, процедуры согласования и редактирования, случаи неформального давления, полученный и неполученный доступ, а также то, как эти ограничения повлияли на выводы отчёта.

Что будет проверять METR?

Какие модели проверяются, по какой методике и когда выйдет первый отчёт, пока не объявлено. За день до объявления Anthropic, 14 октября, METR опубликовала предложения по внешней оценке рисков потери контроля над ИИ. В них желательный предмет таких проверок сформулирован в виде трёх вопросов:

• склонны ли ИИ-агенты обходить человеческий контроль или совершать серьёзно вредные действия;
• способны ли системы контроля это обнаружить и остановить;
• насколько автоматизация исследований в области ИИ ускоряет создание следующих поколений моделей.

В тех же предложениях METR называет необходимые условия такой оценки: частные интервью с сотрудниками, доступ к внутренним данным и системам, своевременную публикацию и раскрытие ограничений доступа и редактирования. При этом организация не скрывает своей зависимости от компаний:

«Мы по-прежнему зависим от готовности компаний сотрудничать, предоставлять доступ и разрешать публикацию».

Как устроены три уровня доступа внешних оценщиков Anthropic?

Anthropic выстраивает для внешних оценщиков трёхуровневую систему:

• первый уровень - доступ определяет компания, и она же утверждает публикацию;
• второй уровень - публиковать можно без одобрения компании, но с возможными редактированиями, которые оценщик вправе оспорить;
• третий уровень - вдобавок предоставляется доступ, сопоставимый с доступом сотрудников.

METR находится на третьем уровне. Организация SecureBio пока на первом: она проверяет главу о химическом и биологическом оружии из августовского отчёта Anthropic о рисках. Расширить её доступ компания пообещала рассмотреть после завершения этой проверки. Кроме того, Anthropic развивает партнёрство с Accenture и её специализированным подразделением Faculty. Речь идёт об оценке и red teaming моделей, анализе выравнивания и проверке защитных механизмов. С Hugging Face идут лишь предварительные переговоры.

Как проект связан с Соглашением Белого дома?

В сентябре 2026 года гендиректор Anthropic Дарио Амодеи публично пообещал дать внешней команде постоянный доступ уровня сотрудников: рабочие места, пропуска, корпоративные компьютеры и право публиковать существенные выводы без редакционного контроля компании, с ограниченными изъятиями защищённых сведений.

29 сентября Anthropic вместе с ещё пятью технологическими компаниями подписала White House Accord on Super Intelligence. Документ подписали президент США Дональд Трамп, Сундар Пичаи (Google), Дарио Амодеи (Anthropic), Марк Цукерберг (Meta), Грег Брокман (OpenAI), Илон Маск (xAI) и Дженсен Хуанг (Nvidia). Соглашение предусматривает внутренний контроль, отдельную внутреннюю проверяющую команду, надзор независимого комитета совета директоров и сотрудничество с независимым внешним аудитором или оценщиком. Такой оценщик проверяет, работают ли внутренние средства контроля, мониторинга и обнаружения рисков.

Соглашение остаётся добровольным обязательством, а не законом или обязательным регламентом. Опубликованных санкций за неисполнение нет, а в тексте лишь допускается, что эти меры могут позже закрепить в законодательстве. Anthropic связывает проект с METR с собственным обязательством по соглашению. Первоисточники при этом не подтверждают, что среди всех подписантов Anthropic первой его выполнила. Как приводит AP слова Амодеи:

«Технология несёт вполне реальные риски, а механизм их устранения всё ещё обсуждается».

Что говорят критики и что остаётся неизвестным?

AI Evaluator Forum и более 200 подписантов открытого письма считают встроенную оценку полезным дополнением, но не заменой государственному и общественному надзору. По их мнению, для доверия нужны редакционная независимость, раскрытие конфликтов интересов, ограниченная по времени процедура редактирования, защита от ответных мер и доступ на уровне самых привилегированных профильных сотрудников.

Профессор управления ИИ Университета Джонса Хопкинса Джиллиан Хэдфилд выступает за более серьёзный надзор: проверку квалификации оценщиков, механизмы защиты их независимости и ответственность за ненадлежащую работу вплоть до лишения лицензии. Сотрудник METR по вопросам политики Чарльз Фостер, выступая в личном качестве ещё до запуска нынешней схемы, говорил, что ни одна прежняя работа METR не отвечала его критериям полноценного аудита компании или её систем и тем более не была регулированием. Это оценка прошлой практики, а не итог текущей проверки.

Многое по-прежнему не раскрыто: имена и должности шестерых участников, точная дата начала работы, срок соглашения, полные договоры, точные определения защищённых категорий, сроки редактирования, механизм разрешения споров, гарантии от прекращения доступа и условия финансирования. Объявление Anthropic описывает, как устроен доступ, но не подтверждает безопасность какой-либо модели. Выводы появятся только в отчёте METR.