Microsoft показала Maia 300, третье поколение собственного ускорителя, и пообещала сделать его основной системой для запуска ИИ-сервисов компании. Речь идет об инференсе, то есть о выдаче ответов уже обученной моделью, а обучением пока занимаются другие. Руководитель Azure Скотт Гатри называет Maia «основной системой инференса для продуктов и услуг Microsoft», а Сатья Наделла говорит о «самой крупной ставке на собственный кремний».
Microsoft раскрыла подробные характеристики нового чипа. Он состоит из нескольких отдельных кристаллов, изготовленных TSMC по технологии N2P класса 2 нм. Восемь модулей быстрой памяти HBM4 дают в сумме 288 ГБ и могут передавать до 18 ТБ данных в секунду. Сам чип потребляет около 950 Вт. В одну серверную стойку помещаются 96 таких ИИ-ускорителей. Такой вычислительный узел потребляет 167 кВт, и это вдвое больше, чем стойка с Maia 200. Жидкостное охлаждение отводит 80% выделяемого тепла. Из 128 стоек собирают суперпод — большую систему, в которой 12 288 ускорителей работают вместе.
Microsoft заявляет, что новый чип позволяет ИИ генерировать на 40% больше токенов на каждый мегаватт потребляемой мощности, чем «ведущие системы на GPU». Но компания не уточняет, с какими графическими процессорами его сравнивали и в каких условиях проводили тест. Поэтому оценить это преимущество сложно. Ещё одно заявление — «до семи раз больше токенов на стойку» — относится к сравнению Maia 300 с предыдущим поколением. Этот прирост объясняется главным образом тем, что в стойке стало вдвое больше чипов, а пропускная способность памяти выросла в 2,5 раза. То есть речь о производительности всей стойки, а не отдельного чипа.
История у проекта непростая. Maia 200 вышла в январе после задержек, к лету работала лишь в двух американских дата-центрах, а теперь Microsoft говорит о развертывании в США, Европе и Австралии. По данным The Information, компания обсуждала с TSMC мощности для более чем 300 тысяч Maia 300. Многогигаваттные поставки начнутся в 2027 году.
Узкое место здесь не кремний, а память. Руководитель программы Maia Эндрю Уолл называет HBM «серьезным ограничением по всей отрасли» и говорит, что крупные компании теперь планируют закупки на пять лет вперед.
Впрочем, Патрик Муурхед из Moor Insights & Strategy заметил, что вне Microsoft чип никто не проверял. В отличие от Google TPU и Amazon Trainium, Maia нельзя арендовать со стороны, хотя Гатри обещает дать доступ сторонним клиентам через Foundry и API. Nvidia и AMD при этом никуда не денутся: Наделла летом говорил, что Microsoft одной из первых развернет Vera Rubin и Helios.
Evercore ISI оценивает долю Maia примерно в 10% расходов Microsoft на ИИ-чипы к началу 2027 года. Остальные 90% уйдут на «железо» сторонних поставщиков, а технические подробности Microsoft обещает на конференции Ignite в следующем месяце.
