Американский ИИ использовали для проектирования ракет, которыми обстреливают США и их союзников
Группа, базирующаяся на севере Йемена, использовала нейронную сеть Claude для проектирования ракет и разработки программного обеспечения для управляемого и баллистического оружия. Об этом говорится в докладе Anthropic, посвященном кибербезопасности.
«У нас нет доказательств того, что участникам удалось ввести в эксплуатацию работоспособное устройство, однако они провели испытательный пуск управляемой ракеты. Судя по всему, испытание завершилось неудачей: уже через несколько часов после него участники снова обратились к Claude, чтобы выяснить причины сбоя», — сообщает Anthropic.
Участники группы использовали Claude Code для софта, связанного с наведением, навигацией и управлением ракетами. С помощью модели с технологией искусственного интеллекта они писали код, настраивали ИТ-систему управления и проводили моделирование полета. Группа одновременно задействовала несколько экземпляров Claude: один писал код, другой занимался исследованиями, третий проверял результат.
По данным Anthropic, группа работала над управляемой ракетой, многоступенчатой баллистической ракетой с заявленной дальностью более 2 тыс. км, а также над ракетами R2000, один из вариантов которых предусматривал гиперзвуковой планирующий аппарат. Нейронная сеть Claude блокировала многие запросы. Однако, по утверждению компании, пользователи пытались обходить систему защиты, скрывая цели и назначение разрабатываемого ПО, а также распределяя работу между несколькими сессиями, чтобы ни одна отдельная сессия не раскрывала их намерения полностью.
Anthropic заблокировала связанные с участниками аккаунты и передала информацию об угрозе партнерам из государственного и частного секторов. При этом, как отмечает компания, участники успели создать набор ИТ-инструментов для моделирования, который не зависел ни от Claude, ни от других инженерных вычислительных сред.
В докладе Anthropic описаны десятки случаев, когда пользователи пытались использовать нейронную сеть для создания оружия или вредоносного ПО. В том числе компания заблокировала несколько пользователей из-за подозрений в использовании ИИ-моделей при разработке биологического оружия. В одном из эпизодов ученый использовал Claude для подготовки заявки на грант, связанной с исследованиями вируса чикунгунья. По данным Anthropic, речь шла о работе, которая вызывала беспокойство, поскольку была связана с военным научно-исследовательским институтом.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
