Цукерберг не поддержал призыв Anthropic замедлить развитие ИИ
Глава Meta* Марк Цукерберг выступил против скоординированного замедления темпов развития искусственного интеллекта. Он считает, что компании, разрабатывающие ИИ, имеют собственные стимулы и возможности для обеспечения безопасности моделей. Об этом сообщает РБК.
«Сейчас много споров о том, следует ли замедлить прогресс в области возможностей, пока согласованность не догонит его. Я считаю, что доверие и согласованность быстро становятся наиболее важными возможностями, которые будут отличать агентов и модели друг от друга. Любая лаборатория, которая не сосредоточится на согласованности, отстанет», — написал он в X.
По мнению Цукерберга, пользователи не будут выбирать ИИ-агентов, которые действуют вопреки их запросам, поэтому разработчики заинтересованы в повышении их согласованности. Компании несут юридические риски, если их модели причиняют вред, что также создает стимул уделять внимание безопасности. В качестве примера глава Meta привел разработку ИИ-агента Muse. По его словам, компания отложила ее выпуск на несколько месяцев, чтобы сосредоточиться на безопасности и защищенности. Он также выступил за привлечение независимых экспертов для оценки моделей и консультантов и предложил направлять значительную часть вычислительных ресурсов на обслуживание пользователей, а не на гонку к рекурсивному самоулучшению ИИ. Meta, по словам Цукерберга, уже взяла на себя такое обязательство.
Ранее Цукерберг опубликовал манифест, в котором предупредил, что концентрация контроля над ИИ в руках нескольких компаний может привести к опасному дисбалансу власти. По его мнению, безопаснее распределять технологии между большим числом пользователей и разработчиков, которые смогут уравновешивать друг друга. Он также отверг идею создания единого сверхинтеллекта, который действовал бы в интересах всего человечества, поскольку разные ценности и интересы людей невозможно одновременно учесть в одном технологическом решении.
Глава Anthropic Дарио Амодеи ранее призвал замедлить темпы разработки ИИ и предложил трехэтапную стратегию его развития с учетом вопросов безопасности. Его инициативу поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман. На последнем этапе своей стратегии Амодеи предложил наладить глобальную межправительственную координацию. Он предупредил, что в ближайшие 6–12 месяцев рой ИИ-агентов может «захватить весь интернет». По данным Bloomberg, в начале сентября Альтман сообщил сотрудникам о планах OpenAI замедлить разработку передовых моделей. Опасения по поводу развития мощных систем ИИ ранее высказал нобелевский лауреат Джеффри Хинтон. Он заявил The Times, что компании пока не способны безопасно создавать «суперинтеллект», значительно превосходящий человека. Маск также предупреждал о рисках бесконтрольного развития ИИ. Опасения усилились после нескольких инцидентов с ИИ-агентами: в июле OpenAI сообщила об атаке ее моделей на инфраструктуру Hugging Face во время испытаний, а в августе Anthropic рассказала о трех случаях «побега» Claude из тестовой среды.
*Признана экстремистской и запрещена в России
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
