Nvidia Vera Rubin NVL72 запустили в облаке, результаты оказались выше GB200

Облачный провайдер CoreWeave запустил в своей инфраструктуре систему Nvidia Vera Rubin NVL72. Компания Cognition стала первым клиентом, разместившим на ней производственные ИИ-нагрузки.

В задаче вывода SWE-2 платформа обеспечила до 4,8 раза большую общую пропускную способность токенов по сравнению с GB200 NVL72.

В сценариях обучения с подкреплением показатель пропускной способности на один GPU оказался выше в 3,8 раза. Это позволяет Devin одновременно обрабатывать больше сессий и ускорять многошаговый вывод. В тесте DeepSeek-R1 система Vera Rubin NVL72 продемонстрировала в 10 раз большую пропускную способность токенов на мегаватт по сравнению с GB200 NVL72.

Аппаратная конфигурация включает 36 процессоров Vera и 72 GPU Rubin, объединенных полностью жидкостной системой охлаждения. Модульная конструкция стоек сокращает заявленное время установки отдельных лотков примерно с двух часов до пяти минут. CoreWeave также предлагает процессоры Vera отдельно от GPU. В одной стойке можно разместить до 128 таких процессоров, суммарно получая 11 264 ядра и возможность одновременно запускать более 11 000 изолированных сред. Запуск агентских песочниц происходит более чем в 3 раза быстрее, чем на процессорах с архитектурой x86.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.