Nvidia анонсировала микросервис NIM на GTC 2024. NIM упаковывает оптимизированные движки вывода, стандартные API и модели ИИ в контейнеры для легкого развертывания. Микросервис поддерживается крупнейшими поставщиками программного обеспечения, включая SAP, Adobe, Cadence, CrowdStrike, Getty Images, ServiceNow и Shutterstock, и поставщиками платформ данных, включая BOX, Cohesity, Cloudera, Databricks, Datastax, Dropbox, NetApp и Snowflake.
NIM — это контейнер, наполненный микросервисами, которые могут включать открытые или проприетарные модели, работающие на графических процессорах Nvidia. Контейнер может быть развернут в любом месте, например, в облаке Kubernetes, на сервере Linux или в модели бессерверных функций как услуги. NIM также будут поддерживать такие вещи, как возможности дополненного поиска (Retrieval Augmented Generation, RAG) для предприятий. Поставщики векторных баз данных, такие как Apache Lucene, Datastax, Faiss, Kinetica, Milvus, Redis и Weaviate, поддерживают NIM.
По словам представителей Nvidia, NIM призваны сократить время развертывания приложений ИИ с нескольких недель до нескольких минут. Пользователи смогут безопасно размещать свои приложения, основанные на данных, на собственной инфраструктуре и масштабировать их по мере необходимости.
Разработчики могут бесплатно экспериментировать с новыми микросервисами на новой платформе ai.nvidia.com, а коммерческое развертывание микросервисов NIM доступно через Nvidia AI Enterprise 5.0 на сертифицированных Nvidia системах и у облачных провайдеров. Компания планирует постоянно совершенствовать микросервисы NIM, в том числе оптимизировать модели ИИ, используемые на оборудовании Nvidia.
SAP — одна из первых крупных компаний, использующих новые микросервисы NIM для ускорения применения генеративного искусственного интеллекта в бизнес-приложениях. Цель состоит в том, чтобы дать клиентам возможность использовать свои бизнес-данные в облачных решениях SAP с помощью генеративного ИИ.
Сотрудничество будет направлено на разработку и развертывание SAP Business AI, включая масштабируемые, специфические для бизнеса возможности генеративного ИИ в Joule Copilot SAP и во всем портфеле облачных решений и приложений SAP.
Nvidia также представила широкий набор микросервисов, предназначенных для разработки лекарств и медицинских технологий. Более двух десятков сервисов, доступных через облако, основаны на моделях и инструментах искусственного интеллекта, оптимизированных специально для здравоохранения. Среди них — передовая визуализация, распознавание речи, генеративное прогнозирование и моделирование биологических и химических процессов.
BioNeMo от Nvidia также получит обновление: в частности, будут добавлены новые модели для анализа последовательностей ДНК, предсказания изменений в структуре белков под воздействием лекарств, определения функций клеток на основе РНК. Модели теперь также доступны в виде микросервисов через NIM от Nvidia.
Модели BioNeMo также скоро будут доступны через AWS HealthOmics, сервис, разработанный специально для здравоохранения и медико-биологических наук.
