Anthropic призывает замедлить развитие ИИ и ищет специалиста по оружию

Глава Anthropic Дарио Амодеи недавно опубликовал статью, в которой призвал разработчиков передовых систем искусственного интеллекта замедлить их развитие. Он выразил опасения, что ИИ может «уничтожить человеческую жизнь».

«Одни и те же технологии служат и гражданским задачам, и оружию», — сообщает Ferra.

При этом спустя несколько дней после публикации статьи компания Anthropic разместила вакансию менеджера по политике в области обычных вооружений. Новый сотрудник войдёт в команду Safeguards, которая определяет допустимые и недопустимые действия с ИИ-моделью Claude. Ему предстоит решать, какие способы использования модели допустимы в контексте бомб и подобных устройств. По данным Reuters, инструменты Anthropic применялись в атаке США на Иран, а по информации Wall Street Journal — в краже главы Венесуэлы.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.