Специалисты по ИИ предупреждают об угрозах для человечества и миллиардных потерях
Эксперты в области искусственного интеллекта выражают опасения по поводу потенциальных угроз, включая возможность потери контроля над ИИ, что может привести к катастрофическим последствиям для человечества и значительным финансовым потерям. Об этом сообщает РБК.
«Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно. Потеря контроля над ИИ, который умнее нас, может быть катастрофической и даже привести к вымиранию человечества», — сообщает РБК.
По мнению главы Anthropic Дарио Амодеи, в течение 6–12 месяцев рой ИИ-агентов может захватить интернет с помощью устойчивой бот-сети и нанести ущерб в сотни миллиардов долларов. Бывший исследователь Anthropic и OpenAI Джейкоб Коксон отмечает, что люди, занимающиеся развитием ИИ, искренне верят в его способность погубить человечество к концу десятилетия. Он также утверждает, что компании не действуют ответственно, стремясь к самоулучшающемуся сверхинтеллекту.
Руководитель направления в Anthropic Эван Хубингер считает, что ИИ может уничтожить всех людей с вероятностью более 10% в течение следующего десятилетия. Член совета директоров некоммерческого фонда OpenAI Пол Кристиано ожидает, что создание сверхинтеллекта без надёжной координации приведёт к потере контроля и гибели большинства людей.
Глава OpenAI Сэм Альтман выделяет два сценария негативных последствий: утрата контроля над будущим в пользу ИИ и чрезмерная концентрация власти. Бывший исследователь безопасности Google DeepMind Билал Чугтай также верит в способность ИИ убить всех и считает, что времени для предотвращения этого остаётся мало.
Среди тех, кто считает опасения по поводу ИИ обманом, — американский президент Дональд Трамп. Он сравнил предупреждения об угрозе ИИ с «безумным заговором», выгодным Китаю, и утверждал, что «негативные силы поднимают вопросы, не имеющие отношения к реальности». Его бывший советник по ИИ и криптовалютам Дэвид Сакс призвал Альтмана и Амодеи не притворяться, что ими руководят «исключительно альтруистические мотивы».
Основатель Tesla и SpaceX Илон Маск поддержал точку зрения главы Anthropic. Американский лидер также созвонился с гендиректором Nvidia Дженсеном Хуангом, который заявил, что подобные предсказания «не имеют под собой научных оснований», но при этом похвалил исследователя Коксона за «большую смелость».
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
