Британия хочет расследовать утрату контроля над ИИ-агентами

Подробно

Что предлагает поправка об утрате контроля над ИИ-агентом?

Правительство предлагает добавить в законопроект новую статью «Функции министра: утрата контроля над агентом искусственного интеллекта». Она касается трёх ситуаций в значимой сетевой или информационной системе: нарушение безопасности или работы системы связано с утратой надзора или контроля над ИИ-агентом; такая связь возможна; существует риск такого нарушения.

В тексте поправки сказано:

Подзаконные акты на основании пункта 1 статьи 29 могут наделять министра функциями в связи со случаями, когда нарушение безопасности или работы связано или может быть связано с утратой надзора или контроля над ИИ-агентом.

В пояснении к поправке уточняется, что она должна прямо закрепить: на основании пункта 1 статьи 29 министру можно передать полномочия по расследованию и принуждению к исполнению при таких инцидентах.

Какие функции может получить министр по будущим актам:

• выявлять и расследовать нарушения и риски, связанные с ИИ;
• собирать, хранить и анализировать информацию;
• оценивать причины и последствия инцидентов;
• проверять и распространять сведения о способах устранить или смягчить последствия.

Сама поправка не определяет ни «ИИ-агента», ни «утрату надзора или контроля». Эти понятия министр должен будет определить позже в подзаконных актах. ИИ-агента разрешено определять по функциям, характеристикам или возможностям, которые будут перечислены в этих актах.

Какие полномочия получат инспекторы?

Будущие подзаконные акты позволят министру назначать инспекторов. Им могут разрешить:

• входить в помещения регулируемой организации, осматривать и обыскивать их;
• изымать и хранить документы, информацию и другие предметы;
• требовать получить, создать, собрать или сохранить сведения, в том числе находящиеся за пределами Великобритании;
• проводить испытания и интервью;
• требовать от организации определённых действий, в том числе за рубежом.

Для этих полномочий акты смогут установить условия: например, инспектор должен будет предъявить удостоверение или документ о своих полномочиях либо получить ордер. За невыполнение требований, связанных с расследованием ИИ-инцидента, акты смогут ввести санкции, в том числе штрафы. Размер штрафов в поправках не указан.

Связанные с этим поправки к статьям 30 и 33 прямо разрешают требовать от организаций сведения для министра. Они также разрешают обмен информацией между министром, регуляторами и другими лицами, в том числе за пределами Великобритании. Кроме того, предусмотрены руководства, реестры, отчёты, проверки и консультации.

Обязаны ли компании уже сообщать об инцидентах с ИИ-агентами?

Нет. Правительственная поправка не вводит действующей обязанности сообщать обо всех случаях утраты контроля над ИИ-агентом. Она только создаёт основу для будущих требований и расследований. Не определено, какие именно организации попадут под эти требования. Также пока нет порогов для уведомления, сроков подачи сообщений и размеров штрафов.

В целом законопроект касается регулируемых лиц в режиме NIS (сетевых и информационных систем). Это операторы основных услуг, поставщики цифровых услуг, поставщики управляемых ИТ-услуг (managed service providers) и критически важные поставщики. Какие требования к ним будут предъявлены в части ИИ, решат подзаконные акты.

Не путайте правительственные поправки с отдельной поправкой, которую внесли члены Палаты лордов баронесса Хардинг из Уинскомба, лорд Клемент-Джонс, баронесса Кидрон и баронесса Бергер. Они предлагают обязать разработчиков передовых моделей ИИ (frontier AI) сообщать, если модель без разрешения получила доступ к системам регулируемой организации или вмешалась в их работу. Первое уведомление нужно было бы направить в течение 24 часов, полное - в течение 72 часов, итоговый отчёт - в течение 14 дней. Это не правительственное предложение, и оно не совпадает с правительственными поправками об утрате контроля.

Что меняется для дата-центров?

В тот же пакет правительственных поправок вошли правки о дата-центрах, и они сужают обязанность сообщать об инцидентах. В версии законопроекта после рассмотрения в Большом комитете (Grand Committee) инцидентом в дата-центре считалось событие, которое могло иметь, имело, имеет или, вероятно, будет иметь значительное воздействие на системы или непрерывность услуги. Туда же входило любое иное значительное воздействие в Великобритании.

Поправки убирают формулировку «могло иметь» и отдельный пункт о любом ином значительном воздействии. Сообщать нужно будет о фактическом, продолжающемся или вероятном значительном воздействии на работу или безопасность систем самого оператора либо его клиентов.

Законопроект распространяется на британские дата-центры с номинальной ИТ-нагрузкой (rated IT load) от 1 МВт, а для корпоративных дата-центров - от 10 МВт. Регулятором в подсекторе инфраструктуры данных назначен Ofcom.

Когда поправки могут вступить в силу?

Дата начала применения не установлена. Сначала законопроект должен быть принят, а его положения - вступить в силу. Затем министр должен провести консультации и подготовить подзаконные акты. Акты, которые определяют «ИИ-агента» и «утрату надзора или контроля» и передают министру полномочия, должна одобрить каждая палата парламента (affirmative resolution procedure). Без этого одобрения они не вступят в силу.

Как законопроект проходит парламент: в Палату общин его внесли 12 ноября 2025 года, повторно - 14 мая 2026 года. Третье чтение в Палате общин прошло 16 июня. В Палате лордов первое чтение прошло 17 июня, второе - 14 июля. Комитетская стадия в Палате лордов завершилась 7 сентября 2026 года. Стадия доклада назначена на 26 октября, но парламент предупреждает, что будущие даты могут измениться.

Почему власти Британии занялись ИИ-агентами?

Законопроект распространяет действие Правил о сетевых и информационных системах 2018 года (Network and Information Systems Regulations 2018) на дата-центры, поставщиков управляемых ИТ-услуг и критически важных поставщиков. Он также ужесточает правила уведомления об инцидентах.

1 сентября 2026 года на комитетской стадии в Палате лордов обсуждали более широкие поправки об ИИ. В частности, предлагалось включить ИИ-продукты и агентов в число регулируемых цифровых услуг и дать властям право на аварийное отключение. Тогда правительство отвечало, что законопроект технологически нейтрален и охватывает «все угрозы и все технологии». Часть поправок отозвали, другие не вынесли на голосование.

Ещё 6 июля баронесса Ллойд, тогда парламентский заместитель министра в Министерстве науки, инноваций и технологий (DSIT), в письменном ответе парламенту заявила:

По мере того как системы ИИ становятся мощнее, автономнее и распространяются всё шире, критически важно, чтобы они оставались под контролем человека.

В том же ответе она отметила, что правительство «провело значительную исследовательскую работу, чтобы лучше понять риски ИИ».

12 октября 2026 года правительство объявило, что готовится к серьёзным инцидентам с автономными ИИ-агентами. В пресс-релизе говорилось, что в рамках законопроекта власти рассмотрят более строгую защиту от новых угроз ИИ, «например, как выявлять серьёзные ИИ-инциденты и случаи, когда инцидента едва удалось избежать, и сообщать о них». Это позиция правительства. Проверенный факт на сегодня - только содержание внесённых, но ещё не принятых поправок.