Яндекс запустил облегченную версию генеративной нейросети YandexGPT 3 Lite, которую можно использовать в чат-ботах, а также для проверки орфографии или анализа данных. Нейросеть доступна клиентам облачной платформы Yandex Cloud через API. 

YandexGPT 3 Lite может стать универсальным решением для различных бизнес-сегментов, начиная от малых фирм и заканчивая крупными корпорациями. Этот инструмент способен оптимизировать такие задачи, как обслуживание клиентов в чате и по телефону, подготовка ответов для службы поддержки, создание маркетингового контента или сводки рабочих собраний. Крупные компании со сложной бизнес-структурой и значительным объемом информации могут использовать YandexGPT 3 Lite для анализа данных, необходимых для стратегического управления.

Новая модель YandexGPT 3 Lite превзошла свою предшественницу, YandexGPT 2 Lite, по многим параметрам. В частности, в тесте YaMMLU_ru (русскоязычной версии международного эталонного теста MMLU) новая модель дала на 6 процентных пунктов больше верных ответов, чем модель предыдущего поколения.

Кроме того, модели сравнили по методике Side by Side, в которой нейросети отвечали на одни и те же вопросы, а эксперты выбирали лучший ответ. В среднем YandexGPT 3 Lite отвечала лучше, чем YandexGPT 2 Lite, в 68% случаев.

Эксперты также оценивали способность новой модели выполнять задачи классификации, генерации контента, ответов на вопросы и других основных типов бизнес-задач. Результаты тестирования были следующими:

Дополнительно стоит отметить, что новая модель допускает меньше орфографических и фактических ошибок, чем модель второго поколения YandexGPT 2 Lite.

Для разработки новой модели были усовершенствованы все этапы обучения. В частности, был улучшен отбор данных для предварительного этапа обучения, что позволило увеличить долю полезной информации. Кроме того, на этом этапе была применена технология curriculum learning, которая позволяет поэтапно усложнять данные. На втором этапе обучения, включающем в себя обучение с подкреплением, модель была улучшена для оценки качества ответов нейросети. В архитектуру нейросети также была добавлена технология Grouped Query Attention, которая ускоряет обработку данных без потери качества.

YandexGPT 3 Lite может быть интегрирована в продукты через API в сервисе Foundation Models. Стоимость использования YandexGPT 3 Lite составляет 20 копеек за тысячу токенов. Новые пользователи Yandex Cloud смогут бесплатно протестировать ее в демо-режиме.