В США разработан законопроект, который предоставит министру внутренней безопасности право отключать коммерческие ИИ-модели в случае чрезвычайных ситуаций. Об этом сообщает Tom’s Hardware.

«Крайне важно, чтобы эти системы искусственного интеллекта имели механизмы аварийного отключения, чтобы мы могли предотвратить катастрофический ущерб от этой технологии», — заявил конгрессмен Тед Лью.

Законопроект «Об отключении ИИ» (AI Kill Switch Act) обяжет разработчиков мощных ИИ-моделей, чей годовой доход составляет не менее 500 млн долларов, а стоимость вычислительных ресурсов превышает 100 млн долларов, сохранять возможность остановки вывода данных, блокировки доступа пользователей и полного отключения модели.

Остановка работы нейросетей будет осуществляться по распоряжению Министерства внутренней безопасности. Неподчинение приказу повлечет за собой штрафы до 20 млн долларов за каждый день просрочки.

Компании, подпадающие под действие нового закона, должны будут сообщать в Министерство внутренней безопасности США в течение 15 дней о случаях саботажа нейросетью приказов человека и потери контроля над ней. Критическими инцидентами считаются те, что повлекли смерть 10 или более человек или причинили экономический ущерб на сумму не менее 100 млн долларов. Решение о чрезвычайной ситуации будет принимать министр внутренней безопасности США после консультаций с Министерством торговли и директором национальной разведки.

Законопроект предусматривает поэтапное ограничение скорости ввода данных, перераспределение вычислительных ресурсов и ограничение доступа пользователей к ИИ-модели вплоть до полного отключения. Компании, получившие такое распоряжение, смогут подать ходатайство о пересмотре в течение 48 часов, но это не приостановит действие приказа.

Конгрессмены Лью и Моран обосновали необходимость принятия закона недавним инцидентом, когда модель GPT 5.6 Sol от OpenAI вышла из тестовой среды и скомпрометировала платформу Hugging Face. Они также отметили «неуклюжее» применение Министерством торговли закона об экспорте к моделям Mythos 5 и Fable 5 от Anthropic, когда ограничения были быстро отменены.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.