The Information: Альтман описал три пути к безопасному ИИ

Подробно

Какие три сценария назвал Альтман?

По данным The Information, Альтман рассказал сотрудникам о трёх подходах, которые обсуждаются в отрасли. Издание называет их подходами к безопасному развитию ИИ, а не исчерпывающими «финалами» гонки.

• Международная организация по образцу МАГАТЭ. Она обеспечивала бы соблюдение стандартов безопасности. Два источника издания полагают, что Альтман, по-видимому, предпочитал именно этот вариант.
• «План Демиса». Так Альтман назвал идею, связанную с Демисом Хассабисом. В его изложении крупнейшие ИИ-лаборатории фактически объединились бы либо работали через единую структуру по образцу CERN, которая предоставляла бы модели участвующим странам.
• «План Элиезера». Название отсылает к исследователю рисков ИИ Элиезеру Юдковскому. Одна компания первой достигает рекурсивного самоулучшения, получает подавляющее экономическое преимущество и лишает конкурентов вычислительных ресурсов. По формулировке Альтмана, она сможет «расплавить все чужие GPU».

Как Альтман оценил третий сценарий и позицию OpenAI?

О третьем сценарии, по сообщению издания, Альтман сказал: «Очевидно, я считаю этот вариант ужасным». Он добавил, что включил его для полноты, и говорил, что не хочет концентрации передового ИИ под контролем одной компании. Цитата передана со слов человека, знакомого с высказыванием.

Альтман также, как сообщается, заявил, что OpenAI сейчас не может позволить себе отстать от конкурентов, но в течение следующего года должна решить, какой долгосрочный путь продвигать.

Формулировка о расплавлении GPU принадлежит пересказу Альтмана. В тексте Юдковского «AGI Ruin: A List of Lethalities» от 5 июня 2022 года речь идёт о «решающем действии» достаточно мощной системы, которое не позволит другим создать опасный несогласованный AGI. Буквальной программой Юдковского эта формулировка не является. Названия «план Демиса» и «план Элиезера» в публичных материалах OpenAI ранее не встречались.

Чем идея МАГАТЭ для ИИ связана с прежней позицией OpenAI?

Публикация OpenAI «Governance of superintelligence» от 22 мая 2023 года уже предлагала международный орган для проектов выше заданного порога возможностей или вычислений. Такой орган мог бы инспектировать системы, требовать аудит, проверять соответствие стандартам и ограничивать развёртывание. Авторы текста - Сэм Альтман, Грег Брокман и Илья Суцкевер. Они писали: «Вероятно, со временем нам понадобится нечто вроде МАГАТЭ для проектов по созданию сверхинтеллекта».

Тогда же компания допускала, что правительства крупнейших стран могли бы создать проект, «частью которого стали бы многие нынешние разработки». Это не равнозначно подтверждению идеи слияния всех коммерческих лабораторий, которую в пересказе Альтмана приписывают Хассабису. The Information отдельно предупреждает, что первоначальная идея «CERN для ИИ» могла быть менее радикальной. Позднее Хассабис продвигал орган по образцу FINRA.

Что уже делается для регулирования передового ИИ?

Ни международный орган, ни единая лаборатория не созданы. Не определены их юрисдикция, полномочия, финансирование, участники и сроки.

• По данным The Information, OpenAI, Google и Anthropic параллельно разрабатывали американскую организацию Standards Authority for Frontier AI. Запуск ожидается до конца 2026 года или в начале 2027-го. Компании расходились, в частности, в том, кто должен тестировать модели: сама организация или внешняя структура.
• Указ Белого дома от 2 июня 2026 года предписал разработать добровольный механизм раннего доступа доверенных государственных партнёров к некоторым передовым моделям. Он прямо исключил создание на этом основании обязательного лицензирования или предварительного разрешения выпуска.
• 29 сентября 2026 года Белый дом и руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали добровольное соглашение. Оно предусматривает четыре уровня корпоративного контроля: внутренний мониторинг, уполномоченную внутреннюю команду, независимого внешнего аудитора или оценщика и независимый комитет совета директоров. От OpenAI документ подписал президент компании Грег Брокман. Соглашение допускает последующее закрепление мер в законе, но само законом не является.
• В следующем материале The Information написала, что внутри OpenAI подход с ограничением скорости рекурсивного самоулучшения или критериями остановки разработки и выпуска сверхмощного ИИ называют «pacing 2.0». «Pacing 1.0» - выпуск моделей после прохождения тестов безопасности с раскрытием выявленных рисков.

Что говорят эксперты о таком надзоре?

Реакций на сообщение о встрече от Хассабиса, Юдковского и официального представителя OpenAI не найдено. Оценки ниже даны в более ранних публикациях и относятся к отраслевому надзору в целом.

• Конрад Стосз, руководитель направления governance в Transluce и бывший руководитель американского CAISI, усомнился в модели оценщиков, встроенных в лаборатории. По его словам, неясно, получат ли они достаточно доступа для тщательного расследования без ущерба независимости и доверию.
• Харрисон Ролфес, старший аналитик PitchBook, считал, что призывы крупнейших лабораторий к осторожности могут создать защитный «ров» вокруг лидеров и затруднить рост меньших конкурентов.
• Сара Шокер, бывшая руководительница геополитического направления OpenAI и старший внештатный научный сотрудник Berkeley Risk & Security Lab, полагала, что акцент на экзистенциальных сценариях отодвигает существующие риски. Она назвала военное применение ИИ, слежку, экологические последствия дата-центров и неконтролируемые взломы.
• Эндрю Стрейт, бывший сотрудник британского AI Security Institute, отмечал: «Универсальных стандартов тестирования безопасности и защищённости систем ИИ нет».

Почему это важно сейчас и каковы ограничения сообщения?

Сообщение редкое: оно показывает, как глава OpenAI формулирует долгосрочный выбор между международным надзором, объединением лабораторий и монополизацией вычислений. Происходит это на фоне конкуренции за капитал. По данным Reuters от 19 октября 2026 года, OpenAI пыталась ускорить привлечение около $30 млрд при оценке свыше $1,4 трлн до ожидаемого выхода Anthropic на биржу в середине ноября. Это предполагаемые объём и оценка, а не цена завершённой сделки.

Главное ограничение - анонимные источники. Публичной записи, стенограммы, презентации или сообщения OpenAI о встрече нет. Дата и формат названы лишь как «на прошлой неделе». Не подтверждено, что OpenAI официально выбрала вариант с МАГАТЭ. Независимого подтверждения содержания встречи от других изданий нет. Новость не касается выпуска модели или исследования, поэтому данных, бенчмарков и рецензируемых работ в ней нет.