Mistral открыла веса языковой модели Large 4 с триллионом параметров
Французская компания Mistral опубликовала открытые веса своей флагманской модели Large 4, известной как Le Chonk. Это позволяет запускать модель на собственном оборудовании. Ранее, в начале октября, компания представила предварительную версию, которая была доступна только через API. Об этом сообщает «Код Дурова».
«Это модель со смесью экспертов (MoE): из 1 трлн параметров при обработке каждого токена работают 49 млрд», — пишет «Код Дурова».
Модель имеет контекстное окно в 1 млн токенов, распознаёт изображения и поддерживает более 160 языков. Перед публикацией Mistral проводила дополнительное обучение с подкреплением в течение трёх недель, что, по её данным, улучшило результаты в программировании и киберзащите. В Terminal-Bench 4.0 результат вырос на 13 процентных пунктов, достигнув 41%, а число генерируемых токенов сократилось на 30%. В Artificial Analysis Coding Agent Index модель набрала 48%, что соответствует показателям лидера среди открытых моделей GLM-5.3, при этом затрачивая на 47% меньше токенов на задачу.
В закрытом тесте FrontierCode 2.0 от Cognition, оценивающем принятие изменений агента сопровождающим репозитория, Large 4 получила 19,7%. В слепых сравнениях Surge Code пользователи отдавали ей предпочтение перед GLM-5.3, Kimi K3 и DeepSeek V4.1 Flash; выше оказалась только Claude Opus 5.5. Все эти результаты приводит сама Mistral.
По данным Mistral, в Artificial Analysis Cyber Index, который проверяет способность модели находить, воспроизводить и исправлять уязвимости, Large 4 получила 51%. Модель также в среднем отклоняет 96,6% вредоносных запросов о кибератаках из тестовых наборов. При этом Mistral признаёт, что модель потенциально может быть использована в реальных атаках, и обещает доработать ограничения в ближайшие месяцы.
Веса модели размещены на Hugging Face под лицензией Mistral Ecosystem Open-Weight, основанной на модифицированной MIT. Модель можно бесплатно использовать, дообучать и применять в коммерческих целях, но компаниям, продающим доступ к ней как к облачному сервису, требуется отдельная лицензия. Через API обработка 1 млн входных токенов стоит $0,70, выходных — $2,10, а входных из кеша — $0,07.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
