Яндекс выложил в опенсорс языковую модель для быстрых ИИ-ответов в Поиске
Яндекс выложил в открытый доступ Alice AI Search Pretrain — свою собственную обученную с нуля языковую модель. Она лежит в основе быстрых ИИ-ответов в Поиске и благодаря своей архитектуре способна мгновенно давать емкие ответы и обрабатывать большой поток запросов.
«Яндекс первым выложил в открытый доступ базовую (pretrain) модель, дообученная версия которой генерирует ии-ответы в Поиске», — сообщает компания.
Alice AI Search Pretrain — это компактная языковая модель, которая уже прошла первый этап обучения и имеет обширные знания о мире. Она способна обрабатывать большой объем документов и выдерживать большую нагрузку, а благодаря своей компактности не требует больших вычислительных мощностей. Разработчики и исследователи могут использовать её в своих проектах и изучать её архитектуру. Модель имеет гибридную архитектуру, которая до Яндекса существовала в основном только в научных исследованиях. Она объединяет две технологии: «Энкодер-декодер» (Encoder-Decoder) и MoE (Mixture of Experts). Первая позволяет давать емкий лаконичный ответ за счет того, что одна часть модели изучает и отбирает информацию, а другая генерирует ответ. Вторая технология ускоряет работу модели и экономит вычислительные мощности. Вместо того, чтобы задействовать всю нейросеть, MoE активирует только ту часть её «мозга», которая лучше разбирается в теме. Эта модель содержит 35 млрд параметров, но при обработке одного токена используется лишь около 600 млн — менее 2%.
По качеству ответов Alice AI Search Pretrain превосходит компактные языковые модели на задачах по русскому языку. По данным замеров методом слепого тестирования она отвечает лучше Qwen 3.5 2B и 4B и T5 Gemma 2 4B-4B Base. При этом модель также сопоставима по качеству с Qwen 3.5 35B-A3B, которая требует значительно больше вычислительных ресурсов, чем Alice AI Search Pretrain.
С июля в Поиске Яндекса работает дообученная версия этой модели — Alice AI Search, входящая в семейство генеративных моделей Alice AI. Чтобы Alice AI Search давала емкие и понятные ответы, разработчики собрали пользовательские сигналы и обучили модель на реальных примерах взаимодействия людей с поиском. Ответы модели появляются прямо под поисковой строкой и помогают быстро разобраться в теме. Каждый месяц быстрыми ответами пользуются более 49 миллионов человек. Это самый массовый генеративный продукт Яндекса, где пользователи чаще всего сталкиваются с искусственным интеллектом.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
