Компания Nvidia объявила о рекордных результатах в области искусственного интеллекта (ИИ) в бенчмарке MLPerf Inference v4.1, где впервые был протестирован ускоритель семейства Blackwell.

Бенчмарк MLPerf позволяет технологическим компаниям демонстрировать свои лучшие решения в области аппаратного обеспечения для задач ИИ. Организация MLCommons проводит этот тест для справедливого сравнения различных чипов и систем. Результаты публикуются ежегодно как для задач обучения ИИ, так и для задач вывода.

Результаты MLPerf показали, что новая архитектура Blackwell обеспечивает в четыре раза большую производительность на GPU по сравнению с H100 при работе с большой языковой моделью Llama 2 70B. Такое значительное улучшение стало возможным благодаря использованию более низкой точности: Nvidia впервые применила новую точность FP4 в движке Transformer Engine для Blackwell. Графический процессор H200 с памятью HBM3e, также протестированный в бенчмарке MLPerf, показал на 1,5 раза большую производительность по сравнению с H100.

В ожидании поставок различных вариантов графических процессоров NVIDIA Blackwell B100, компания уже анонсировала будущие продукты: "Blackwell Ultra" (B200) будет выпущен в 2025 году, затем "Rubin" (R100) в 2026 году и "Rubin Ultra" в 2027 году.

Конкурирующий GPU MI300X от AMD уже доступен и впервые был включен в бенчмарк MLPerf, но его результаты оказались неоднозначными.