Американский сенатор Берни Сандерс обратился к ИТ-компаниям с призывом приостановить разработку искусственного интеллекта. Он направил письма руководителям трёх ведущих ИТ-компаний страны, требуя прекратить создание машин, которые люди не могут контролировать. Об этом сообщает СNews.

«Позвольте мне внести ясность: если вы сейчас не предпримете соответствующие действия, это сделаем я и мои коллеги в Сенате США», — предупредил сенатор.

Сандерс отметил, что возможности последних нейронных сетей достигли критического порога риска, и даже разработчики теряют контроль над технологией. Он напомнил, что сами ИТ-компании ранее обещали остановить разработки, если системы станут слишком рискованными и их нельзя будет безопасно контролировать. По его словам, этот момент уже наступил, и наблюдается потеря контроля со стороны людей и создание потенциально опасных вирусов. При этом технологические гиганты продолжают вкладывать десятки миллиардов долларов в технологию, которую никто не может полностью понять, предсказать или контролировать.

Ранее другие деятели также призывали к замедлению или остановке развития ИИ. В частности, Илон Маск призывал разработчиков немедленно остановиться или хотя бы замедлить прогресс, так как текущие темпы вызывают опасения по части безопасности, этики и контроля. По мнению Маска, человечество рискует не успеть выработать механизмы регулирования и защиты до того, как ИИ-технологии станут слишком мощными и автономными.

Компания Anthropic выступала за замедление развития нейронных сетей, считая, что в ближайшее время ИИ-модели смогут совершенствоваться автономно. Руководство OpenAI решило замедлить разработку ИИ-модели Astra, опасаясь её критических возможностей при работе с ИТ-инструментами кибербезопасности. Это произошло после того, как OpenAI сообщила о взломе одной из своих ещё не выпущенных ИИ-моделей при внутреннем тестировании.

Активисты подписали открытое письмо, призывающее ввести запрет на разработку сверхразумного ИИ. Более тысячи знаменитостей и общественных деятелей подписали это письмо. В тексте заявления говорится, что многие ведущие ИТ-компании в области ИИ ставят цель создать в ближайшее десятилетие сверхинтеллект, способный значительно превзойти всех людей практически по всем когнитивным задачам. Это вызывает опасения, начиная от экономического устаревания и лишения человека полномочий, утраты свободы, гражданских прав, достоинства и контроля, заканчивая рисками для национальной безопасности и даже потенциальным вымиранием человечества. Подписанты призывают к запрету на развитие сверхразума, который не должен быть снят до тех пор, пока не будет широкого научного консенсуса, что это будет сделано безопасно и контролируемо, и сильной общественной поддержки.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.