Nvidia начала продажи компактных ПК RTX Spark для локального запуска ИИ-моделей на 120 млрд параметров

Nvidia начала продажи компактных настольных компьютеров RTX Spark, рассчитанных на локальную работу с крупными ИИ-моделями. Первыми устройства выпустили ASUS, Dell и MSI. Системы способны запускать языковые модели с 120 млрд параметров, генерировать изображения и видео, а также выполнять тонкую настройку моделей без постоянного обращения к облачным сервисам.
«В основе компьютеров — 20-ядерный процессор Nvidia Grace и графический ускоритель на архитектуре Blackwell с 6144 ядрами CUDA. CPU и GPU используют объединённую память объёмом до 128 ГБ, а заявленная производительность в задачах искусственного интеллекта достигает 1 петафлопса», — сообщает IXBT News.
Для обмена большими наборами данных и файлами моделей предусмотрен Ethernet со скоростью 10 Гбит/с. Nvidia позиционирует RTX Spark как отдельный компьютер для локальных ИИ-агентов, разработки и творческих задач. Он может работать параллельно с ноутбуком: например, выполнять запланированные задания, обрабатывать данные или продолжать рендеринг, пока пользователь занят другой работой.
Запуск моделей непосредственно на устройстве позволяет не передавать обрабатываемые файлы и код облачным сервисам и не платить за каждый токен при использовании облачного API для этих задач.
Возможности системы не ограничиваются языковыми моделями. Nvidia заявляет о поддержке обработки 3D-сцен объёмом более 90 ГБ в реальном времени и монтажа видео 4:2:2. В программную экосистему входят инструменты для локального запуска ИИ-агентов и тонкой настройки моделей, а также приложения для работы с графикой и видео. Разработчики могут использовать CUDA и Linux-инструменты через подсистему Windows для Linux.
Компактные компьютеры от ASUS, Dell и MSI уже поступили в продажу. Системы от Acer, GIGABYTE и HP, а также Microsoft Surface RTX Spark Dev Box должны появиться позднее.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.