SK hynix показала память для ИИ-серверов со скоростью до 80 ГБ/с

Южнокорейский производитель памяти SK hynix представил технологии «память-центричных» серверов на конференции OCP Global Summit в Сан-Хосе.

«В числе демонстраций были модули CMM-DDR5, стоечная система MARS и технология CMM-Ax, совмещающая вычисления с памятью», — сообщает IXBT News.

Компания показала модули CMM-DDR5 второго поколения ёмкостью 256 ГБ, работающие на базе интерфейса CXL 3.2. Пропускная способность этих модулей достигает 80 ГБ/с, что более чем вдвое выше предыдущего поколения, а энергоэффективность улучшилась примерно на 30%. Такие модули предназначены для объединённой памяти, когда несколько серверов используют общий пул ёмкости.

SK hynix также представила стоечную систему MARS (Memory Centric AI Rack System), где память является центральным ресурсом стойки, объединяя технологии партнёров. Совместно с Naver Cloud была продемонстрирована концепция общего кэша ключей и значений для среды с ИИ-агентами, а также общих векторных представлений для сервиса, работающего с разными типами данных.

Технология CMM-Ax приближает вычисления к памяти за счёт снижения перемещения данных. Её продемонстрировали на задаче обслуживания больших языковых моделей с длинным контекстом. SK hynix отмечает, что речь идёт о системных демонстрациях, а не о широко доступной серверной платформе.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.