NVIDIA представила Jetson Orin Nano Super — бюджетный набор для разработчиков ИИ, который обеспечивает 70 триллионов операций в секунду, поддерживая генеративные модели ИИ, робототехнику и большие языковые модели (LLM).

Генеральный директор NVIDIA Дженсен Хуанг анонсировал Jetson Orin Nano Super на своей домашней кухне. 

Jetson Orin Nano Super обеспечивает 70% прирост производительности по сравнению с предшественником, 67 INT8 TOPS вычислительной мощности ИИ и на 50 % большую пропускную способность памяти — 102 ГБ/с. Устройство поддерживает модели на основе трансформаторов для компьютерного зрения, обработки естественного языка и мультимодального ИИ, что позволяет создавать такие передовые приложения, как робототехника, ИИ-агенты и системы на основе технического зрения.

Jetson Orin Nano Super оснащен GPU NVIDIA архитектуры Ampere с 1024 ядрами CUDA и 32 тензорными ядрами, а также 6-ядерным процессором Arm. Такая аппаратная конфигурация позволяет ему одновременно работать с несколькими приложениями ИИ, включая трансформаторные модели и большие языковые модели, которые раньше были уделом гораздо более крупных систем.

Для существующих пользователей Jetson Orin Nano NVIDIA предлагает обновления ПО, которые обеспечивают до 1,7-кратного повышения производительности генеративного ИИ. 

Устройство интегрируется с более широкой экосистемой ИИ от NVIDIA, включая Isaac для робототехники и Metropolis для ИИ зрения, предоставляя разработчикам полный набор инструментов для создания и развертывания приложений ИИ. Такой экосистемный подход может оказаться крайне важным, поскольку индустрия переходит от моделей, ориентированных на конкретные задачи, к более универсальным базовым моделям.

Стоимость Jetson Orin Nano Super составляет 249 долларов. Nvidia утверждает, что Jetson Orin Nano Super предназначен для коммерческих разработчиков ИИ, любителей и студентов, желающих развить навыки в генеративном ИИ, робототехнике или приложениях компьютерного зрения.