В Т-Банке разработали и запустили нейросеть T-lite

Специалисты Центра искусственного интеллекта Т-банка представили новую языковую модель T-lite, которая впечатляет своими параметрами и производительностью. Модель имеет 7-8 миллиардов параметров и, согласно тестам, превосходит все существующие аналоги в этом классе.

T-lite была продемонстрирована на первой конференции Т-Банка по машинному обучению, Turbo ML Conf. Эта модель предназначена для создания собственных LLM-приложений, таких как ассистенты поддержки для обработки запросов и ответов на вопросы, без необходимости передавать данные третьим лицам. Примером использования модели может служить голосовой заказ.

На тестах T-lite уже обошла зарубежные модели, такие как llama3-8b-instruct и chat-gpt 3.5, при этом потребляя всего 3% ресурсов, которые обычно нужны для подобных систем. Модель является частью семейства Gen-T, разработанного Т-Банком, и ориентирована на бизнес-задачи.