Реранкер Qwen3-Reranker-8B стал доступен как хостинг-эндпоинт на OpenRouter 13 августа. Стоимость составляет $0,20 за миллион токенов, контекст около 41K, с одним провайдером. Теперь его можно использовать через OpenAI-совместимый API без собственного GPU. Об этом сообщает «Код Дурова».

«Сама модель не новая. Qwen открыла серию Qwen3 Embedding & Reranker ещё в июне 2025 под лицензией Apache 2.0, веса всё это время лежали на Hugging Face. Новость — не в релизе, а в удобном облачном доступе», — пишет «Код Дурова».

Реранкер не является чат-моделью и не предназначен для написания текстов или ответов на вопросы. Его функция — переупорядочивать найденные документы по релевантности к запросу. В поисковых или RAG-системах он оценивает пары «запрос — документ» после векторного поиска и поднимает наиболее подходящие результаты.

Qwen3-Reranker-8B выдаёт оценку релевантности от 0 до 1, поддерживает более 100 языков и языков программирования, а также имеет instruction-aware режим, позволяющий задавать критерии релевантности текстовой инструкцией.

Согласно техническому отчёту Qwen от июня 2025 года, модель тестировалась на топ-100 кандидатов от Qwen3-Embedding-0.6B. Независимых оценок для OpenRouter-эндпоинта пока нет.

Модель 8B не является безусловным лидером в своей линейке. Младшая Qwen3-Reranker-4B превосходит её в некоторых тестах, например, 69,76 на MTEB-R против 69,02 и 14,84 против 8,05 на инструкционном тесте FollowIR. Переход с 4B на 8B оправдан, если точность ранжирования напрямую влияет на бизнес-метрику.

Модель полезна разработчикам, создающим поиск по документам, базы знаний, ботов поддержки или RAG-системы. Веса модели открыты под лицензией Apache 2.0, что позволяет поднять её локально при наличии собственного оборудования.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.