На своей ежегодной конференции для разработчиков Next '24 компания Google представила дальнейшее развитие своей архитектуры ИИ-гиперкомпьютеров. Основное внимание компания уделила новым аппаратным компонентам, оптимизированным по производительности, таким как Cloud TPU v5p и новые графические процессоры Blackwell от Nvidia. Эти нововведения призваны ускорить обучение и развертывание сложных моделей ИИ.
По словам Google, Cloud TPU v5p уже доступен для широкой публики и является самым мощным и масштабируемым поколением TPU на сегодняшний день. Одна капсула TPU v5p содержит 8 960 подключенных чипов — более чем в два раза больше, чем капсула TPU v4. Кроме того, TPU v5p предлагает более чем в два раза больше FLOPS на уровне чипов и в три раза больше высокоскоростной памяти, чем предыдущее поколение.
Таким образом, TPU v5p идеально подходит для обучения больших моделей ИИ. Чтобы облегчить эту задачу, движок Google Kubernetes Engine (GKE) теперь полностью поддерживает кластеры TPU v5p и многохостовое обслуживание.
Google также объявила, что новая платформа Nvidia Blackwell будет интегрирована в ее архитектуру ИИ-гиперкомпьютера в двух конфигурациях. Клиенты Google Cloud получат доступ к системам Nvidia HGX B200 и GB200 NVL72 весной 2025 года. Новые системы HGX B200 предназначены для самых требовательных современных рабочих нагрузок в области ИИ, анализа данных и высокопроизводительных вычислений. Системы GB200 NVL72 с жидкостным охлаждением предназначены для вывода языковых моделей в реальном времени и обучения моделей с триллионами параметров.
