Компания Nvidia анонсировала новый "суперчип Грейс Хоппер" GH200, который является прямым преемником первого варианта GH100. GH200 — это первый GPU с памятью HBM3e для обучения и анализа моделей ИИ. Новая 141-гигабайтная память обеспечивает в 1,55 раза большую пропускную способность и в 1,7 раза больший объем памяти, чем предыдущий чип.
Выход GH200 и систем на его основе ожидается во II квартале 2024 года.
Компания Nvidia также объявила о сотрудничестве с Hugging Face, одним из ведущих хранилищ готовых предварительно обученных Deep Learning моделей. В рамках партнерства библиотека моделей Hugging Face будет подключена к инфраструктуре ИИ Nvidia DGX Cloud. Пользователи Hugging Face смогут использовать DGX Cloud для обучения и тонкой настройки моделей ИИ.
Кроме того, компания Hugging Face представит новый сервис "Обучающий кластер как услуга" на базе DGX Cloud, упрощающий создание пользовательских генеративных моделей ИИ.
Помимо сотрудничества с Hugging Face, компания Nvidia также анонсировала четвертое поколение своей программной платформы AI Enterprise, объединяющей NeMo и AI Workbench. Nvidia NeMo — это инструментарий для разработки приложений генеративного ИИ, который обеспечивает рабочие процессы для обучения, настройки и развертывания больших языковых моделей.
Совершенно новым является Nvidia AI Workbench — локальный интерфейс, предназначенный для упрощения разработки генеративного ИИ и объединения необходимых компонентов, таких как модели, наборы данных и вычислительные мощности.
"С помощью Nvidia AI Workbench разработчики могут настраивать и запускать генеративный ИИ всего за несколько кликов", — говорится в сообщении компании. "Он позволяет собрать все необходимые модели корпоративного уровня, фреймворки, SDK и библиотеки из открытых репозиториев и платформы Nvidia AI в единое рабочее пространство разработчика".
Workbench также предоставляет простые предустановки для ускорения разработки. Обученные модели можно запускать вне Workbench на любом оборудовании. По данным Nvidia, AI Workbench поддерживается в системах Windows и Linux с графическими процессорами RTX, а также в системах таких производителей, как Dell Technologies, Hewlett Packard Enterprise, HP Inc, Lambda, Lenovo и Supermicro.
