Yandex B2B Tech представила новый сервис для создания ИИ-помощников с помощью AI Assistant API. Теперь компании могут разрабатывать своих ИИ-ассистентов для бизнеса без необходимости настраивать инфраструктуру и писать много кода. Эти помощники обычно используются для автоматизации технической поддержки, умного поиска в компаниях, создания рекомендаций на маркетплейсах и других задач. AI Assistant API ускорит внедрение языковых моделей в бизнес-процессы на 30% и более. Сервис уже доступен на облачной платформе Yandex Cloud, а вскоре его можно будет использовать и на собственной инфраструктуре компаний.

В AI Assistant API уже есть функция, которая позволяет ИИ-модели отвечать на вопросы, используя данные компании, такие как документы или статьи. Работник компании может загрузить файлы в формате PDF, DOC, TEXT или XLS, и модель будет использовать их для ответов на вопросы пользователей. В будущем сервис сможет обращаться к внешним базам знаний.

Сервис работает с помощью метода RAG (Retrieval Augmented Generation): модель получает контекст в виде фрагментов текста и на их основе формирует ответ.



Сервис использует новое поколение языковых моделей YandexGPT 4. В этой линейке есть мощная модель Pro и более легкая версия Lite. Они дают лучшие ответы, чем предыдущие версии, умеют рассуждать и обрабатывать запросы длиной до 60 страниц текста, что в четыре раза больше, чем раньше. Кроме того, новые модели генерируют ответы в два раза быстрее.