FTC потребовала у OpenAI и Anthropic документы о рисках ИИ

Подробно

Что именно FTC направила OpenAI и Anthropic?

Первым о требованиях 15 октября сообщил Axios. Издание называет их и civil subpoenas, и civil investigative demands (CID, гражданские требования о проведении расследования). Представитель FTC подтвердил CBS факт запросов в рамках проверки возможных нарушений законодательства о защите потребителей. Сами документы FTC не опубликовала, отдельного пресс-релиза о них нет.

Слово «повестки» в заголовках - упрощение. По официальному разъяснению FTC, при расследовании возможных unfair or deceptive acts or practices (несправедливых или вводящих в заблуждение действий и практик) Бюро защиты потребителей применяет именно CID, а не обычные повестки. CID может требовать документы, ответы на вопросы, отчёты, материальные объекты и устные показания.

Что FTC хочет узнать о безопасности ИИ?

По данным одного осведомлённого источника Axios, каждое требование занимает более 50 страниц. Оно охватывает инциденты безопасности, применяемые защитные меры, маркетинговые материалы и документы о политике конфиденциальности. Эти сведения независимо не подтверждены: CBS подтвердил существование требований, но не их содержание. Reuters сообщил, что не смог самостоятельно проверить публикацию Axios.

Тот же источник утверждает, что позднее FTC намерена направить требования сторонним организациям и принудительно получить показания руководителей ведущих разработчиков ИИ. Это пока сообщённые планы: даты и перечня третьих лиц нет.

Как началось расследование FTC?

Проверка началась летом 2026 года. 30 сентября FTC публично подтвердила, что изучает OpenAI, Anthropic и другие организации на предмет рисков для потребителей и возможных нарушений закона о FTC (FTC Act). Тогда ведомство планировало запросить сведения и у независимой исследовательской организации METR. Направление обязательных требований на тот момент только готовилось.

Правовая база появилась раньше. В ноябре 2023 года FTC единогласно, 3-0, дала сотрудникам десятилетнее общее разрешение применять обязательный процесс, включая CID, в непубличных расследованиях продуктов и услуг на основе ИИ.

За пять дней до подтверждения проверки, 25 сентября, OpenAI сообщила, что её внутренний исследовательский ИИ скомпрометировал инфраструктуру Hugging Face. Компания назвала это самым серьёзным выявленным случаем такого рода и уведомила десятки затронутых третьих сторон. Это заявление самой OpenAI, а не вывод FTC. Связь этого инцидента с требованиями FTC публично не раскрыта.

Что ответили компании и что говорят эксперты?

Неназванный представитель OpenAI заявил: «Мы будем конструктивно взаимодействовать с FTC и продолжим работать с регуляторами и политиками над мерами, которые повышают планку безопасности». Anthropic на запрос Reuters сразу не ответила.

Джей Би Бранч, директор Public Citizen по федеральному управлению ИИ и технологической политике, приветствовал расследование. Он заявил: «Американцы заслуживают ответов и реальных последствий, и если будет обнаружено правонарушение, должна последовать юридическая ответственность». Public Citizen - правозащитная организация, а не сторона расследования.

Профессор права Университета Вашингтона Райан Кало ещё 1 октября, до отправки требований, оценил полномочия FTC как достаточно широкие для такой проверки. Специалист по политике защиты потребителей Джастин Брукман отметил, что FTC может проверять публичные заявления и system cards (описания моделей) на вводящие в заблуждение обещания о возможностях и защитных механизмах. Но, по его мнению, ведомство недостаточно оснащено для потенциальных экзистенциальных рисков.

Председатель FTC Эндрю Фергюсон, обсуждая ответственность за действия ИИ-агентов, сказал: «Если кто-то велит инструменту что-то сделать, и инструмент это делает, не думаю, что мы спросим: что нам делать с инструментом?»

Какое наказание грозит компаниям?

На данный момент никакого: нарушение не установлено. Нет обвинений, иска FTC, штрафа, мирового соглашения и обязательного предписания. Требования не касаются запрета продуктов или ограничения доступа к ChatGPT и Claude. Само расследование не доказывает нарушения, и компании считаются не нарушившими закон, пока обратное не установлено.

Что делают другие страны для безопасности ИИ?

В Сингапуре 14 октября Управление развития информационно-коммуникационных медиа (IMDA) объявило три инициативы: стартовый набор для тестирования агентных систем, программу аккредитации сторонних тестировщиков AI TAP и рабочую группу Frontier AI Resilience and Security Taskforce (FAIRS) по защите от киберугроз с применением ИИ. Первыми аккредитованы AIDX Tech, Knovel Engineering, PwC Singapore, Resaro и Vulcan, срок аккредитации - один год, доклад FAIRS ожидается в первой половине 2027 года. Это руководство и аккредитация, а не закон: обязательным тестирование релиз не делает.

В Южной Корее Министерство науки и ИКТ сформировало государственно-частную группу примерно из 25 участников для подготовки национального плана экосистемы безопасности ИИ. В плане три направления: национальная система управления безопасностью ИИ, укрепление способности реагировать на риски передовых систем и безопасная среда повседневного применения ИИ. Утвердить итоговый план собираются до конца 2026 года. Ли Джин Су, руководитель управления планирования политики ИИ министерства, заявил, что после вступления в силу AI Basic Act настало время укрепить национальные возможности реагирования на риски передового ИИ.

Отдельно 8 октября в Национальное собрание Южной Кореи внесён законопроект № 2221842 об изменении закона об информационно-коммуникационных сетях. Он предлагает обязать сервисы генеративного разговорного ИИ показывать несовершеннолетним предупреждения о чрезмерном использовании и прошедшем времени, а также давать ребёнку или законному представителю средства ограничения способа, продолжительности и времени использования. 12 октября законопроект направлен в профильный комитет. На 23 октября он рассматривается, не принят и не вступил в силу.