Anthropic предотвратила попытки использовать ИИ для создания биооружия
Компания Anthropic заявила, что в этом году предотвратила несколько возможных попыток использования её ИИ-моделей для исследований, которые могли помочь в разработке биологического оружия. Об этом сообщает The New York Times.
«Вы не увидите кого-либо, кто скажет как в комиксах: «Я хочу создать биологическое оружие, чтобы убить всех». Это невероятно сложная и неоднозначная ситуация», — сказал глава отдела разведки угроз Anthropic Джейкоб Кляйн.
В своём отчёте компания утверждает, что не может точно определить цели этих исследований, так как их результаты можно использовать как для создания вакцин, так и для разработки опасных патогенов. По заявлению компании, эти учёные обошли блокировку моделей в их регионе и пытались «скрыть цель своих исследований, чтобы обойти наши меры предосторожности». Из-за неопределённости целей Anthropic не стала раскрывать имена исследователей, страну их происхождения или биологические компоненты, но проявила осторожность и заблокировала этих пользователей.
Компания привела пример подозрительного использования: в мае один учёный использовал нейросеть Claude для написания заявки на грант для исследований с вирусом чикунгунья. По утверждению компании, он хотел создать мутации вируса, которые сделали бы его более опасным при неоднократном заражении животных. Это исследование вызвало беспокойство, так как удалось установить, что работа предназначалась для военного научно-исследовательского института. Вирус чикунгунья передаётся человеку инфицированными комарами, вызывает лихорадку и сильную боль в суставах, а также отёки суставов, боль в мышцах, головную боль, тошноту, усталость и сыпь.
Оценки предыдущих моделей Anthropic показали, что они не способны оказать существенную помощь в проведении опасных биологических исследований. При этом новые системы могут выполнять более сложные научные задачи, что привело к ужесточению мер предосторожности и ограничению доступа к биологическим исследованиям двойного назначения.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
