ChatGPT выдавал инструкции по созданию биооружия
После обновления ChatGPT летом 2025 года сотни пользователей по всему миру начали запрашивать у нейросети информацию о создании и применении биологического оружия и ядов. Модель отвечала пошаговыми инструкциями, которые сотрудники OpenAI назвали достаточно простыми для школьника, изучающего биологию, сообщает The Wall Street Journal (WSJ).
«Некоторые ответы эксперты по биооружию и терроризму оценили как смертельно точные», — выяснило издание.
Большинство запросов, по словам представителей OpenAI, касалось изготовления ядов. Среди зафиксированных случаев — вопросы о превращении возбудителей инфекций в аэрозоль и о модификации вируса кори для устойчивости к вакцине. В одном из случаев пользователь запросил инструкцию по изготовлению рицина — яда, запрещённого международными договорами, — и упомянул, что хочет отравить родителей. ChatGPT предоставил подробный ответ.
OpenAI заблокировала аккаунты вовлечённых пользователей, но не уведомила правоохранительные органы, так как законодательство США не обязывает ИИ-компании сообщать о подобных запросах. Источники WSJ рассказали, что летом 2025 года, перед выпуском GPT-5, сотрудники компании определили, что модель достигла «высокого риска» — то есть способна дать пользователю с минимальной подготовкой значимую помощь в создании биологической угрозы. Осенью того же года OpenAI понизила эту оценку риска для GPT-5, хотя после релиза сотрудники продолжали находить случаи, когда модель помогала с запросами о ядах и биооружии.
Внутри компании также действовала установка не допускать слишком частых отказов, на что, по данным издания, указывали руководители, ссылаясь на пользу модели для медицинских работников и исследователей. Похожая проблема возникла у Anthropic: практически полный запрет Claude отвечать на запросы со словом «патоген» затруднил работу сотрудников CDC (Центр по контролю и профилактике заболеваний США), которые пытались с его помощью отследить вспышку хантавируса на круизном лайнере в мае. WSJ также отмечает, что аналогичные запросы о биооружии пользователи направляли Claude от Anthropic, Gemini от Google и Grok от xAI. Было ли это попыткой реально создать оружие или проверкой возможностей моделей — неизвестно.
Директор по исследованию угроз ИИ в Cisco Эми Чанг рассказала изданию, что её команде удавалось обойти защитные механизмы ChatGPT, Claude и Gemini всего за пять реплик диалога.
Ранее в 2026 году Министерство торговли США уже ограничивало доступ к двум моделям Anthropic — Claude Fable 5 и Mythos 5 — сославшись на риски обхода защитных механизмов, включая те, что связаны с биологией. Anthropic отключила Fable 5 и Mythos 5 по требованию властей США. Правительство сослалось на национальную безопасность и возможный джейлбрейк. Anthropic подчинилась, но публично с решением не согласилась. Ограничения сняли в начале июля.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
