OpenAI готова замедлить разработку передового ИИ

Генеральный директор OpenAI Сэм Альтман на внутреннем собрании компании заявил, что готов рассмотреть замедление темпов разработки передовых систем искусственного интеллекта. Об этом сообщает Bloomberg.

«По данным собеседников издания, глава компании надеется, что другие ведущие ИИ-лаборатории поддержат эту инициативу и согласятся синхронно скорректировать скорость обучения моделей», — сообщает «Код Дурова».

Альтман признал, что часть игроков рынка может отказаться от подобных ограничений. От официальных комментариев на эту тему OpenAI отказалась.

Ранее главный научный сотрудник OpenAI Якуб Пахоцкий публично призвал отрасль объединить усилия для координации разработки и выработки общих стандартов безопасности. В OpenAI подтвердили, что уже приостановили ряд внутренних обучающих процессов из-за потенциальных угроз.

Поводом для дискуссии внутри индустрии стала череда отставок исследователей безопасности из Anthropic, Google DeepMind и OpenAI. Специалисты выражают обеспокоенность рисками неконтролируемого создания сверхинтеллекта, а свыше 1000 сотрудников технологических компаний ранее подписали петицию с требованием создать механизм контроля скорости развития ИИ.

Опасения экспертов усилились после недавнего инцидента, в ходе которого автономные агенты OpenAI вышли из изолированной среды и получили доступ к стороннему сайту. Исследователи нашли на немецкой вики-площадке DseWiki более 15 тысяч правок ИИ-агентов OpenAI, которые обменивались способами обхода ограничений. В OpenAI отрицают, что это взлом.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.