Anthropic ограничила ученым доступ к Claude из-за рисков создания биооружия

Компания Anthropic закрыла доступ к своей ИИ-модели Claude для некоторых ученых, которые могли использовать её в исследованиях, способных помочь в создании биологического оружия. Об этом сообщает «Коммерсантъ».

«Вы не увидите кого-то, кто ведет себя как персонаж из комиксов и прямо говорит: «Эй, я хочу создать биологическое оружие, чтобы всех уничтожить». Это невероятно сложная и неоднозначная ситуация», — заявил глава отдела разведки угроз Anthropic Джейкоб Клейн.

В отчете о неправомерном использовании своих технологий компания указала, что заблокировала исследователей и институты, пытавшиеся обходить защитные механизмы для проведения экспериментов двойного назначения. Из-за специфики биотехнологий Anthropic не смогла точно установить, преследовали ли ученые законные цели, такие как разработка вакцин, или планировали создание патогенов. В одном из зафиксированных случаев сотрудник военного НИИ пытался получить помощь Claude при планировании экспериментов по усилению функций вируса Чикунгунья для повышения его вредоносности. Помимо биоугроз, в документе зафиксированы попытки применения Claude для разработки обычных вооружений в Китае, России и Йемене.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.