DFRobot выпустила ИИ-ускоритель DX-M1 формата M.2 за $140 с производительностью 25 TOPS при потреблении 2–5 Вт

Компания DFRobot представила DX-M1 — компактный ИИ-ускоритель в формате M.2, рассчитанный на локальную обработку данных без мощной видеокарты и обращения к облачным сервисам. Устройство обеспечивает производительность до 25 TOPS при вычислениях INT8, потребляя всего 2–5 Вт. Стоимость модуля составляет $140. Об этом сообщает IXBT News.
«DX-M1 имеет 4 ГБ собственной оперативной памяти LPDDR5, предназначенной для хранения весов нейросетей, а также 128 ГБ флеш-памяти QSPI NAND для прошивки и локального размещения скомпилированных моделей. Для подключения используется интерфейс PCIe 3.0», — пишет IXBT News.
Ускоритель поддерживает PyTorch, TensorFlow, TensorFlow Lite и ONNX через SDK DFRobot DXNN. Среди подходящих задач производитель выделяет распознавание объектов, анализ видеопотока, навигацию роботов и автоматизированный визуальный контроль.
Рассчитывать на запуск крупных языковых моделей непосредственно на DX-M1 не стоит: четырёх гигабайт памяти недостаточно для работы с тяжёлыми LLM, устройство предназначено прежде всего для запуска уже обученных моделей, а не для их обучения.
Модуль занимает слот M.2, который можно было бы использовать для установки обычного NVMe-накопителя. Собственная флеш-память DX-M1 не предназначена для хранения операционной системы и не заменяет SSD. Поэтому новинка ориентирована прежде всего на компактные компьютеры, промышленные системы и робототехнику, которым требуется энергоэффективное ускорение задач компьютерного зрения.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.