На конференции Vision 2024 компания Intel официально представила свой новый ИИ-ускоритель Gaudi 3.

По данным Intel, Gaudi 3 обеспечивает в среднем на 50 % более высокую производительность вычислений и на 40 % более высокую энергоэффективность по сравнению с графическим процессором NVIDIA H100 при меньшей стоимости. Что касается производительности обучения, то, по прогнозам Intel, время обучения на Gaudi 3 будет в 1,7 раза быстрее, чем на H100.

Чип построен по 5-нм техпроцессу, что является улучшением по сравнению с 7-нм техпроцессом, который использовался в его предшественнике Gaudi 2. Стандартный Gaudi 3 оснащен 96 МБ встроенной кэш-памяти SRAM с пропускной способностью 12,8 ТБ/с и 128 ГБ памяти HBM2e с пиковой пропускной способностью 3,7 ТБ/с. 

Gaudi 3 позволит компаниям гибко масштабировать системы ИИ с десятками тысяч ускорителей — от отдельных узлов до мегакластеров. Intel делает ставку на открытое программное обеспечение на базе сообщества и стандартизированную сеть Ethernet. Gaudi 3 будет доступна OEM-производителям, включая Dell, HPE, Lenovo и Supermicro, начиная со второго квартала 2024 года. Также были представлены новые клиенты и партнеры ускорителя Intel Gaudi, включая Airtel, Bosch, IBM, NAVER и SAP.

Intel также планирует создать открытую платформу для корпоративного ИИ совместно с партнерами, включая SAP, RedHat и VMware. Цель — ускорить внедрение безопасных систем GenAI, основанных на подходе RAG (Retrieval-Augmented Generation). Это позволяет объединить собственные источники данных с языковыми моделями с открытым исходным кодом.