ITNEWS.pro
…
1 час назад
Подписаться
Google сделала TPU закрытым. Что умеют TPU 8tx и 8i Max и при чем тут Claude Code

Развитие ИИ сильно тормозит простое обстоятельство: вычисления для него часто строятся на чувствительных сведениях, на государственной и коммерческой тайне. Чтобы обучить модель или получить от нее ответ, эти данные приходится отправлять в облако и рассчитывать на порядочность партнера.

Большинство облачных компаний гарантируют сохранность информации, но слабое место остается. Развернуть расчеты у себя, в закрытой сети, можно, однако это дорого: нужно купить оборудование и нанять специалистов, которые будут его обслуживать. Из-за такого выбора ИИ-проекты банков, клиник и госорганов нередко упираются в вопрос доверия.

Выход предложила Google. Ее новый ускоритель (специальный чип для нейросетей) получил название TPU 8tx и прячет данные вместе с весами модели (набором чисел, в котором хранится все, чему она научилась) даже во время расчетов. Такой подход в компании именуют конфиденциальными вычислениями: сведения закрыты не только на диске и в сети, но и пока процессор их обрабатывает. Потерю скорости из-за этой изоляции Google оценивает как почти нулевую.

Чип построен на том же кремнии, что и обучающий вариант 8t, а рядом с ним работают серверные процессоры AMD EPYC Turin. Изоляция встроена в сам кристалл. Как именно это сделано и чем шифруются данные, компания не раскрыла.

Целится новинка в банки, медицину, госструктуры и другие регулируемые отрасли. На ней можно дообучать нейросеть на приватных данных, сжимать большую модель до компактной и тренировать ИИ-помощников методом проб и поощрений, причем информация не покидает исходный кластер (группу связанных серверов). Внутренняя сеть Boardfly, по словам Google, вдвое снижает задержку у помощников, которые решают задачу в несколько шагов, если сравнивать с обучающим вариантом.

Второй новинке отдана другая роль — работа с огромными объемами текста. В TPU 8i Max соединены два чипа 8i, созданных для быстрых ответов. Внутри одного корпуса удваиваются вычисления, память SRAM и пропускная способность HBM, а в стойку помещается вдвое больше кремния. Инженеры проектировали его с расчетом на окно в 1 млн токенов для Gemini (столько текста модель удерживает в памяти одновременно). Остальную пару семейства Google показала в апреле: обучающий 8t, до 2,7 раза быстрее предшественника, и 8i с выигрышем в 80% по соотношению цены и производительности. Вместе с новинками получается четыре системы восьмого поколения.

Самое необычное в анонсе скрывается в программной части. Открытый набор TPU Agent suite, пока в статусе превью, работает внутри Claude Code, Cursor и Google Antigravity, и разработчик за минуты получает доступ к чипам, находит узкие места и по текстовым запросам настраивает собственные вычислительные ядра. Показательно, что в списке стоит Claude Code от Anthropic. Google пускает к своему «железу» инструмент, созданный конкурентом Gemini. Рядом лежат XLA Serving Engine (сеть обучают на Python, а отвечать она будет через быструю среду на C++ на чипах Google, видеокартах или обычных процессорах), TorchTPU (PyTorch и нейросети с площадки Hugging Face идут без переписывания кода) и бэкенды для vLLM и SGLang.

Спрос уже есть: у ускорителей Google почти сотня клиентов, среди них передовые лаборатории, трейдеры, ритейлеры и университеты. Их арендуют в Google Cloud, а все чаще ставят в дата-центрах самих заказчиков. Облачный слой компания тоже подтянула. Cloud Pathways стал шире доступен через GKE (управляемый Kubernetes от Google), а динамическая нарезка GKE вышла из беты, и запуск нагрузок, по данным Google, ускорился до пятикратного, а восстановление после сбоев до 4,5 раза.

Дату поставок, стоимость и абсолютные цифры вычислений, памяти и размера пода (группы стоек, объединенных в одну систему) Google не назвала, так что почти нулевую потерю скорости и двукратный выигрыш по задержке остается принимать на слово. Цена как раз и покажет, окажется ли аренда закрытого чипа дешевле собственного дата-центра, с которого начинается этот разговор.

Подписывайся на наш Telegram и не пропусти главные новости!