Энтузиаст запустил ИИ-модель с 27 млрд параметров на iPhone 18 Pro

Энтузиаст Адриен Грондин запустил ИИ-модель Bonsai-27B с 27 млрд параметров непосредственно на смартфоне iPhone 18 Pro. Устройство показало заметный прирост производительности при локальном запуске больших языковых моделей. Скорость генерации оказалась примерно вдвое выше, чем у iPhone 17 Pro, сообщает IXBT News.

«Новый чип A20 Pro — это просто зверь», — написал энтузиаст.

По словам Адриена Грондина, новый процессор Apple A20 Pro играет ключевую роль в этом. A20 Pro впервые среди мобильных SoC Apple получил двойной 16-ядерный нейропроцессор. Также была модернизирована подсистема памяти: iPhone 18 Pro и iPhone 18 Pro Max оснащаются 12 ГБ LPDDR5X с 96-битной шиной и пропускной способностью 115,2 ГБ/с. Высокая скорость памяти особенно важна при запуске больших языковых моделей непосредственно на устройстве. В тесте iPhone 18 Pro полностью локально запускал Bonsai с 27 млрд параметров. Обработка запросов происходила непосредственно на смартфоне, без обращения к облачным серверам.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.