Anthropic сообщила, что хуситы использовали Claude для разработки ракет
Компания Anthropic выявила группу на севере Йемена, которая применяла модель Claude для создания программного обеспечения для управляемого и баллистического оружия. Об этом компания сообщила в своём докладе об угрозах.
«У нас нет доказательств того, что участникам удалось ввести в эксплуатацию работоспособное устройство, однако они провели испытательный пуск управляемой ракеты. Судя по всему, испытание завершилось неудачей: уже через несколько часов после него участники снова обратились к Claude, чтобы выяснить причины сбоя», — говорится в отчёте Anthropic.
Участники группы использовали Claude Code для разработки ПО наведения, навигации и управления ракетами. С помощью модели они писали код, настраивали систему управления и проводили моделирование полёта. Группа одновременно использовала несколько экземпляров Claude: один писал код, другой занимался исследованиями, третий проверял результат.
По данным Anthropic, группа работала над управляемой ракетой, многоступенчатой баллистической ракетой с дальностью полёта более 2 тыс. км, а также над ракетами R2000, один из вариантов которых предусматривал гиперзвуковой планирующий аппарат. Нейросеть блокировала многие запросы, однако пользователи обходили систему защиты, скрывая свои цели и распределяя работу между несколькими сессиями.
Компания заблокировала связанные с участниками аккаунты и передала информацию об угрозе партнёрам из государственного и частного секторов. Участники успели создать набор инструментов для моделирования, не зависящий ни от Claude, ни от других инженерных вычислительных сред. Anthropic не говорила, что пользователями модели были хуситы, однако, как пишет The Financial Times, именно они контролируют значительную часть северной части страны.
В докладе описаны десятки случаев, когда пользователи пытались использовать нейросети для создания оружия или вирусов для ПО. Anthropic заблокировала несколько пользователей из-за подозрения, что они используют ИИ-модели в разработке биологического оружия. Так, один учёный использовал нейросеть Claude для написания заявки на получение гранта для проведения исследований, направленных на эксперимент с вирусом чикунгунья. Как утверждает компания, он хотел создать мутации вируса, которые сделали бы его более опасным при неоднократном заражении животных. Это исследование вызвало беспокойство, так как удалось установить, что работа предназначалась для военного научно-исследовательского института.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
