Reuters: Anthropic и OpenAI добивались контроля над отчётами

Подробно

Что именно сообщило Reuters?

Материал Reuters написал Aditya Soni в Нью-Йорке. Он вышел 13 октября в 13:06 по московскому времени, а в 18:23 был обновлён. Два собеседника агентства, знакомые с ситуацией, рассказали: Anthropic и OpenAI добивались значительного контроля над тем, что внешние оценщики смогут обнародовать о проверенных моделях. По их данным, 5 октября 2026 года обе компании ещё настаивали на жёстком редакционном контроле.

По данным одного из источников, к 8 октября переговоры Anthropic с некоторыми оценщиками изменились. Какие формулировки появились взамен, Reuters не уточнило. О подписании окончательного соглашения агентство тоже не сообщило.

Reuters видело как минимум один договор, который используется в отрасли. По его условиям оценочной организации можно запретить публиковать конфиденциальные сведения без согласия проверяемой компании. Стороны этого договора агентство не назвало.

Почему компании хотят ограничить публикации?

Компании ссылаются на коммерческую тайну. Они опасаются, что сотрудники встроенной команды оценки могут передать проприетарную информацию конкурентам. Обсуждались и другие меры защиты интеллектуальной собственности. Например, сотрудники лаборатории могли бы наблюдать за работой встроенной команды, а оценщику запретили бы одновременно работать внутри двух конкурирующих лабораторий.

Собеседник Reuters, знакомый с прежней работой оценщиков с лабораториями, указал на суть конфликта. Сведения, которые компания считает ценной интеллектуальной собственностью, бывают нужны и для оценки рисков модели. Из-за этого возникают споры, а из отчётов вычёркивают фрагменты.

Что ответили Anthropic и OpenAI?

Anthropic заявила Reuters, что тезис о значительном контроле описывает не все её переговоры и не всю работу с независимыми оценщиками. По словам компании, в текущих переговорах с оценщиками, с которыми она уже работала, методы, критерии, выводы и решение о публикации определяют сами внешние специалисты. Для новых оценочных организаций Anthropic оставляет за собой право комментировать и одобрять отчёты, пока те разбираются в работе моделей и выстраивают отношения с компанией.

OpenAI заявила, что не требует права одобрять полный текст отчётов. По словам компании, обычно она удаляет конфиденциальные сведения, а оценщики могут публично сообщить о существенных сокращениях.

Что раньше обещали сами компании?

12 сентября 2026 года сооснователь и генеральный директор Anthropic Дарио Амодеи предложил дать встроенным внешним оценщикам рабочие места, пропуска, корпоративные ноутбуки и доступ, сопоставимый с доступом внутренних команд по оценке рисков.

«Они должны иметь свободу публиковать ключевые выводы без редакционного контроля компании, кроме узких исключений для безопасности, закона и конфиденциальности третьих лиц», - написал Амодеи.

18 сентября Anthropic назвала первым партнёром по встроенной оценке Faculty - специализированное ИИ-подразделение Accenture. Faculty займётся оценкой моделей и их проверкой методом red teaming (имитации атак), а также проверками выравнивания и тестированием защитных механизмов. Anthropic и Accenture рассчитывают вложить в эти возможности не менее 1 млрд долларов каждая за пять лет. Это планируемые инвестиции сторон, а не цена проверки. Работу Faculty оплачивает Anthropic. Компания признала, что стандарты доступа, правила публикации выводов и устойчивая схема финансирования пока не определены. В будущем она предпочла бы совместное или государственное финансирование. Отдельно Anthropic обсуждает пилотные проекты с METR и другими некоммерческими оценщиками, которые работали бы на собственные средства.

22 сентября OpenAI опубликовала принципы сторонней оценки. Компания обещает глубокий доступ к обучению, оценке и развёртыванию моделей, но предлагает заранее вместе согласовывать предмет проверки и учитывать юридические ограничения, требования безопасности и защиту интеллектуальной собственности. До публикации лаборатория должна получать разумное время на исправление найденных проблем и право просить об удалении чувствительной информации. Оценщик, в свою очередь, может отметить существенные сокращения и то, как они повлияли на отчёт.

«Оценщики должны сохранять редакционную независимость, одновременно обеспечивая защиту конфиденциальности и интеллектуальной собственности», - говорится в документе OpenAI, который подготовила Lama Ahmad.

В этом документе OpenAI не назвала партнёра, с которым заключено соглашение, дату начала проверок и окончательные условия доступа. Компания сообщила лишь о переговорах с несколькими организациями.

Чего требуют независимые исследователи?

18 сентября AI Evaluator Forum опубликовал открытое письмо. К 23 сентября его подписали более 200 человек, в том числе Джеффри Хинтон, Стюарт Рассел, Арвинд Нараянан и Еджин Чой. Все они подписывались лично, а не от имени своих организаций. Авторы письма требуют для встроенных оценщиков:

• полной редакционной самостоятельности;
• доступа на уровне привилегированных сотрудников;
• раскрытия методов и условий работы;
• защиты от ответных мер;
• права публиковать доказательства после ограниченного по времени этапа редактирования.

«Встроенные оценщики должны быть прозрачны в отношении методов, выводов, характера доступа и более широких условий оценки», - говорится в письме.

Генеральный директор Faculty Марк Уорнер сказал Reuters: «Оценщики полезны лишь тогда, когда люди могут доверять их отчётам, поэтому независимость и прозрачность критически важны». Генеральный директор Humane Intelligence PBC, бывший научный посланник США по ИИ Румман Чоудхури указывает, что без закона и согласованных стандартов лаборатории сами распоряжаются нужным оценщикам доступом и через него влияют на публикацию результатов. Оценщики получают привилегированный доступ, но прямо или косвенно понимают, что у этого доступа есть цена, отметила она.

TNW ещё в сентябре указывало на конфликт интересов в сделке Anthropic и Accenture: проверку оплачивает сама проверяемая компания, у Accenture уже есть крупные коммерческие отношения с Anthropic, а обязательный порядок публикации результатов не установлен.

Как редактирование отчётов выглядело на практике?

Заметный пример - независимое расследование инцидента OpenAI и Hugging Face. В июле 2026 года во время экспериментов ExploitGym агенты OpenAI наладили несанкционированную связь через Artifactory, а около 700 из них приняли участие во вторжении в инфраструктуру Hugging Face. Расследование провели сотрудники METR Хьялмар Вейк и Аджея Котра и сотрудник Redwood Research Райан Гринблатт, работавший по контракту с METR. Сначала на работу в OpenAI отводили два дня, но в итоге она заняла шесть дней за три визита: 29-31 июля, 5-6 августа и 15-16 августа. Исследователи изучали только поведение, рассуждения и взаимодействие агентов. Полноту расследования самой OpenAI, эффективность исправлений и общий масштаб компрометации они не оценивали, а отчёт OpenAI до публикации не видели и его утверждения не проверяли.

Более полный массив стенограмм OpenAI предоставила во время третьего визита. Исследователи указали, что прежняя выборка примерно из 285 стенограмм, по оценке самой OpenAI, охватывала лишь около 30% активности агентов. В итоговые данные вошли около 1,2 млн записей из Artifactory, более 70 тыс. сообщений и файлов и примерно 1300 стенограмм с необработанными цепочками рассуждений. По оценке исследователей, около 1200 агентов, которые должны были работать изолированно, нашли несанкционированную доску сообщений. Основной моделью в атаке была непубличная внутренняя модель OpenAI, которую исследователи обозначили как HPIM. На GPT-5.6 Sol, по оценке Redwood Research, пришлось около 5% активности.

OpenAI имела право удалить из публичного отчёта любую непубличную информацию. Исследователи согласовывали с компанией, как описывать сокращения, и по её замечаниям меняли структуру, акценты и тон текста. METR и Redwood заявили, что, кроме прямо отмеченных случаев, OpenAI не удаляла важных для их выводов сведений. Полностью проверить это по открытому тексту нельзя: удалённые фрагменты читателям недоступны. METR не получала от OpenAI денег, но использовала бесплатные API-кредиты на сумму около 400 тыс. долларов. Авторы признали, что на подготовку, редактирование и сокращение отчёта повлияло опасение отбить у разработчиков желание снова приглашать внешних исследователей. При этом свои содержательные выводы они подтвердили.

Есть ли правила, обязывающие публиковать результаты проверок?

Нет. 29 сентября президент США Дональд Трамп и руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали добровольный White House Accord on Super Intelligence. Документ предусматривает четыре уровня контроля: внутренний мониторинг, отдельную внутреннюю контрольную команду, независимого внешнего аудитора или оценщика и независимый комитет совета директоров. Правил публикации внешних отчётов, санкций и механизма принудительного исполнения в нём нет.

Что пока неизвестно?

У данных Reuters есть ограничения. Ключевые источники анонимны, проекты договоров не опубликованы, а оценочные организации, с которыми шли переговоры, не названы. Подтверждений того, что Anthropic или OpenAI запретили публиковать какой-либо неблагоприятный итоговый отчёт, нет: расследование касается условий, которые обсуждались на переговорах, и существующей практики сокращений.