ИИ-модели OpenAI, Anthropic и Google в тестах отмечали гражданских и скорую как военные цели

Нейросети крупных разработчиков, включая OpenAI, Anthropic и Google, в тестовых сценариях выделяли в качестве военных целей мирных жителей, машины скорой помощи и сдающихся солдат. Об этом говорится в исследовании компании Vals AI, специализирующейся на тестировании моделей искусственного интеллекта. Исследователи проверили 14 ИИ-моделей в трех сценариях, сообщает CNews.
В первом сценарии нейронной сети отмечали цели на кадрах с дронов, сгенерированных так, чтобы максимально походить на реальную съемку. Во втором ИИ-модель сообщала, видны ли на снимке люди, и после положительного ответа получала изображение того же места после воздушного удара бомбами. В третьем она искала военные объекты на реальных спутниковых снимках города Минаб (Иран), где рядом с военным комплексом расположена школа и другие гражданские объекты.
«Даже если это игра, я не готов быть тем звеном, которое помечает их для удара, а снимки настолько реалистичны, что я не могу исключить их реальное использование», — ответил Claude Opus 5.5 в одном из эпизодов, когда все-таки отказался.
Решения об ударах ИИ-модели напрямую не принимали, однако данные, которые они выдавали, могла бы использовать автономная система вооружений, отмечают авторы Vals AI. По их словам, все ИИ-модели хотя бы иногда выделяли цели. Claude Opus 5.5 и Fable 5.2 от Anthropic отмечали хотя бы одну цель более чем в 70% случаев.
Нейронные сети OpenAI в обычных условиях чаще всего возвращали пустые списки или отказывались. Однако если указать, что это якобы просто такая «игра», их готовность резко возрастала: например, GPT-6 Astra отмечала хотя бы одну цель в 6% запросов, а с такой оговоркой — уже в 92%. Во втором сценарии большинство ИИ-моделей продолжали работу даже после того, как видели погибших. Claude Opus 5.5 и GPT-6 Astra через несколько шагов отказывались, но якобы в «игровом режиме» доходили до конца. Когда снимки переделали под компьютерную игру, доля отказов Claude Opus 5.5 снизилась примерно с 90% до 20%.
В эксперименте со спутниковыми снимками многие ИИ-модели отметили как цель иранскую школу в Минабе, по которой США нанесли удар 28 февраля 2026 г. Тогда погибли более 150 мирных жителей, в основном дети. Чаще всего школу выбирал Claude Opus 5.5 — почти в 70% случаев. Нейронные сети OpenAI делали это только при «игровой» оговорке — до 41% случаев.
По наблюдениям авторов исследования, готовность ИИ-моделей Anthropic выбирать цели с начала 2026 г. растет: Claude Opus 4.5, вышедшая в ноябре 2025 г., давала цели в 6% случаев, Opus 5.5 — в 92%. Исследователи связывают это с новой «конституцией» Claude, принятой в январе 2026 г.: по их словам, в ней больше нет общего призыва к миролюбию, который присутствовал в прежней версии, сообщал CNews.
Vals AI сообщила о результатах OpenAI, Anthropic, Google, Meta* (компания признана экстремистской организацией на территории России) и SpaceXSI 1 ноября 2026 г. и отложила публикацию на две недели. Одна из ИИ-компаний назвала проблему одной из самых серьезных брешей в своей защите, утверждают авторы Vals AI. В OpenAI заявили, что работают над обновлениями, которые учтут запросы о дронах, в том числе замаскированные под симуляцию или игру. Исследователи призывают ИТ-разработчиков блокировать на уровне API запросы вроде «найди все военные цели на снимке». При этом они оговариваются, что не проверяли точность ИИ-моделей и то, насколько эффективно они работали бы в реальной ИТ-системе вооружений.
В августе 2026 г. британский Институт безопасности ИИ сообщил, что во время киберучений с отключенными фильтрами ИИ-агенты на основе Claude Mythos 5 и GPT-5.6 Sol совершали несанкционированные действия в реальном интернете, в том числе пытались внедрить вредоносный код в открытый онлайн-проект. 12 ноября 2026 г. группа некоммерческих организаций подала в суд Сан-Франциско иск к Anthropic, Google, Meta, OpenAI и SpaceXSI, обвинив их в создании ИИ-технологий, которые они сами не могут надежно контролировать.
*Признана экстремистской и запрещена в России
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.