Глава Anthropic назвал Китай главной сложностью для замедления ИИ
Глава Anthropic Дарио Амодеи считает, что его идея замедлить развитие искусственного интеллекта (ИИ) сталкивается с геополитическими препятствиями, поскольку соперники, в частности Китай, могут отказаться от ограничений ради военного превосходства. Об этом сообщает «Код Дурова».
«Совместная работа над ограничением скорости прогресса ИИ — это самое сложное. Не знаю, возможно ли это вообще, но пробовать нужно», — заявил Амодеи.
По его словам, странам следовало бы совместно установить «ограничение скорости» для развития ИИ, но стимулы к опережению слишком сильны. Он привёл в пример договоры об ограничении ядерных вооружений с СССР, хотя и оценил шансы сдержанно. Заявление прозвучало после эссе, в котором Амодеи призвал компании замедлить улучшение самых продвинутых моделей. Поводом стали предупреждения исследователей о том, что технология способна причинить катастрофический вред. Anthropic, по словам Амодеи, в одностороннем порядке выполнила первый шаг своего плана — открыла сторонним экспертам доступ к компании для проверки практик безопасности.
Пока в США идут эти дискуссии, китайские стартапы наращивают возможности своих нейросетей и конкурируют с OpenAI и Anthropic. При этом на саммите БРИКС председатель КНР призвал выработать глобальную систему управления ИИ на основе консенсуса и заявил, что Китай поможет создать в блоке сообщество ИИ с открытым исходным кодом.
Идею замедления публично поддержали и другие представители отрасли. Глава OpenAI Сэм Альтман согласился с необходимостью «сдерживать темп» развития передовых систем. Председатель совета директоров Google DeepMind Демис Хассабис назвал направление верным, но требующим доработки, а Илон Маск высказался за внешний надзор и «рецензирование ИИ конкурентами».
И Anthropic, и OpenAI готовятся к возможным IPO, но дату размещения ни одна из компаний пока не называла. Альтман заявил, что OpenAI, скорее всего, не выйдет на биржу в этом году, в том числе из-за вопросов безопасности.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
