Энтузиаст запустил на PlayStation 4 ИИ-модель Qwen3.5-9B с 9 млрд параметров

Энтузиаст Леонардо Алегрия создал проект Garlic LLM, который позволяет запускать на PlayStation 4 ИИ-модель с 9 млрд параметров. Проект запускает модель Qwen3.5-9B полностью в автономном режиме, без Linux или внешнего компьютера. Об этом сообщает «IXBT News».

«Автору пришлось использовать квантование, чтобы уместить модель в 4,5 ГБ, так как приставка имеет всего 8 ГБ универсальной памяти. Это позволяет использовать систему, как офлайн-чат-бота с искусственным интеллектом и поддержкой голосового управления», — пишет «IXBT News».

Производительность при этом достигает 1–39 токенов в секунду. PlayStation 4 вышла в 2013 году и имеет 8 ГБ унифицированной памяти.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.