Центр искусственного интеллекта Т-Банка (бывший «Тинькофф») открыл доступ к своей большой языковой модели, которая называется T-lite, сообщает пресс-служба кредитной организации.

T-lite выпущена в размере 8 миллиардов параметров. Параметры — это числовые значения, которые модель настраивает, чтобы лучше понимать и генерировать текст. Чем больше параметров, тем больше возможностей у модели для выполнения сложных заданий, но с увеличением размера также ухудшается экономическая эффективность модели. T-lite же после дообучения на конкретные бизнес-задачи в области обработки естественного языка (NLP) дает качество, сопоставимое с проприетарными моделями размером от 20 миллиардов параметров, но при этом в разы дешевле в эксплуатации.

Как отметили в кредитной организации, индустриальные и внутренние бенчмарки (показатель, используемый для оценки и анализа текущего состояния системы) показали, что T-lite показывает лучшие результаты в решении бизнес-задач на русском языке среди открытых моделей размером 7–8 млрд. параметров. Так, например, она обогнала по показателям зарубежные llama3-8b-instruct и chat-gpt 3.5. При этом T-lite создана с использованием всего 3% вычислительных ресурсов, которые обычно требуются для такого типа моделей.

T-lite входит в Gen-T — это семейство собственных специализированных языковых моделей Т-Банка, которые умеют обучаться под решение конкретных узкоспециализированных задач. В отличие от универсальных моделей, таких как ChatGPT, технология Gen-T ориентирована на конкретные области и предлагает решения с максимальной адаптацией под нужды пользователя.

Напомним, ранее Т-Банк открыл сбор заявок от всех желающих к своему новому экспериментальному сервису — фрод-рулетке «Ловушка для мошенников», где звонки телефонных мошенников перехватываются в режиме реального времени и переводятся на пользователей.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.