Моддеры сняли ограничения Nvidia на производительность ядер Tensor Core в GeForce RTX 20/30/40
Энтузиасты нашли способ снять определённые ограничения Nvidia и существенно повысить вычислительную мощность ядер Tensor Core в видеокартах GeForce RTX прошлых поколений. Проект GPU-Unlock разработчика Zagitta изменяет низкоуровневые регистры конфигурации графического процессора до загрузки графического драйвера, снимая ограничения на скорость выполнения определённых инструкций Tensor Core. Для этого не требуется вносить аппаратных изменений и даже прошивать BIOS. Об этом сообщает IXBT News.
По данным IXBT News, видеокарты GeForce RTX прошлых поколений могут подорожать на вторичном рынке, так как усилиями моддеров они неожиданно стали намного мощнее в задачах ИИ. Энтузиасты нашли способ снять определённые ограчения Nvidia и существенно повысить вычистельную мощность ядер Tensor Core. Для этого не требуется вносить каких-то аппаратных изменений и даже не нужно прошивать BIOS.
Изменения носят временный характер и сбрасываются при отключении питания графического процессора. Прирост действительно очень заметный: для RTX 3090 Ti производительность умножения матриц BF16 выросла с 87,5 до 157,4 TFLOPS, то есть почти вдвое. Та же ситуация наблюдается у протестированных карт линеек RTX 20 и RTX 40. Изменения в первую очередь затрагивают операции FP16 и BF16 с накоплением FP32, а также некоторые рабочие нагрузки TF32 и FP8 на поддерживаемых архитектурах.
Модификация не повышает объём памяти или её пропускную способность, но позволяет ускорить задачи ИИ, связанные с матричным умножением, включая обработку подсказок LLM и некоторые рабочие нагрузки по генерации изображений. Прирост зависит от задач: в случае обработки запросов LLM он составляет 14–36%, а генерация токенов быстрее практически не становится. На производительность в играх изменения не влияют.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
