Глава Anthropic рассказал о лжи техногигантов о рисках ИИ

Глава и сооснователь Anthropic Дарио Амодеи заявил в интервью CBS News, что технологическая индустрия слишком долго скрывала от людей риски, связанные с развитием искусственного интеллекта.
«Я не буду вам лгать: существуют реальные опасности. И я думаю, что индустрия слишком долго лгала людям о том, что эта технология несет риски», — сказал Амодеи.
По его словам, многие разработчики старались представить искусственный интеллект «в максимально позитивном свете», но Anthropic такого подхода не придерживалась. Теперь, считает он, разработчикам необходимо открыто говорить об угрозах, которые может нести технология. Амодеи признал, что сам не ожидал настолько быстрых темпов развития искусственного интеллекта.
При этом глава Anthropic призвал не паниковать и не останавливать разработку ИИ полностью. По его мнению, происходящее следует воспринимать как предупреждение о необходимости более осторожного развития технологии.
Накануне Амодеи призвал замедлить развитие передовых ИИ-моделей и предложил трехэтапный план контроля за технологией. Он выступил за независимую проверку моделей, единые правила для разработчиков в демократических странах и международные договоренности, в том числе с Китаем. Глава Anthropic объяснил необходимость таких мер быстрым ростом возможностей ИИ. По его оценке, уже через 6–12 месяцев автономные ИИ-агенты без достаточных мер защиты могут создать постоянно действующий ботнет, способный причинить ущерб в сотни миллиардов долларов.
Инициативу Амодеи поддержали глава OpenAI Сэм Альтман и основатель SpaceХ Илон Маск. Альтман сообщил, что OpenAI также намерена предоставить независимым экспертам расширенный доступ к своим моделям для оценки их безопасности. Маск, комментируя предложение главы Anthropic, написал: «Дарио прав».
США рискуют потерять первенство перед Китаем в сфере технологий искусственного интеллекта, если замедлят развитие своих языковых моделей, предупредил спикер палаты представителей Майк Джонсон. Об этом сообщает РБК.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.