Google у понеділок представила TPU 8tx і TPU 8i Max, за даними TechCrunch, але пам'ять на сокет у 8i Max зросла лише на 33%, а не вдвічі, за даними The Next Platform.
Обидва чипи є варіантами восьмого покоління TPU, яке Google показала в квітні. Джерела розходяться в двох речах: TechCrunch пише про подвоєння характеристик 8i Max, а The Next Platform це не підтверджує розрахунками. Крім того, встановлювати чипи Google планує лише у 2027 році, тож закладати їх у плани на наступний квартал не варто.
Чим TPU 8tx відрізняється від TPU 8t?
TPU 8tx є варіантом тренувального TPU 8t із захистом даних на рівні заліза. TechCrunch описує його як чип для конфіденційного тренування й запуску моделей, де дані та ваги залишаються захищеними й ізольованими навіть під час обробки.
The Next Platform уточнює, як це зроблено. Власний процесор Axion замінили на AMD Epyc із вбудованим root of trust і прискорювачами шифрування, тож навантаження лишається зашифрованим аж до моменту використання. Мережу теж змінили: тороїдальну 3D-топологію замінила boardfly, а пул скоротився з 9 600 до 1 152 прискорювачів. Діаметр мережі став у 8,3 раза меншим, а середня затримка приблизно вдвічі нижча.
Видання також розходиться з TechCrunch в акцентах: на його думку, 8tx орієнтований насамперед на inference, особливо на агентні сценарії з багатьма паралельними потоками, а тренування можливе в простої.
Чи справді TPU 8i Max удвічі більший за пам'яттю?
Ні, TPU 8i Max має на сокет лише на 33% більше пам'яті, ніж TPU 8i, хоча TechCrunch пише про подвоєння пам'яті, потужності й пропускної здатності в одному корпусі.
The Next Platform рахує докладніше. Початковий TPU 8i мав 288 ГБ HBM3 і 8,6 ТБ/с. У 8i Max два чипи по 192 ГБ кожен, пропускна здатність на чип та сама. Разом це 2 × 192 = 384 ГБ на сокет проти 288 ГБ, тобто +33%. Водночас на кожен чип пам'яті на 33% менше (192 проти 288 ГБ).
Видання припускає, що Google перейшла з дванадцятишарових стеків HBM3 на восьмишарові. Його висновок: пам'яті на одиницю обчислень стало менше, хоча два чипи тісно зв'язані для спільного контексту та KV-кешу. Частина обчислень може лишатися незадіяною, але це, на думку видання, краще, ніж нестача пам'яті на сокет для великого контексту.
Коли ці чипи з'являться в Google Cloud?
У Google Cloud TPU 8tx і 8i Max очікують не раніше 2027 року: саме тоді Google планує їх встановлювати. The Next Platform оптимістично прогнозує початок у першому кварталі 2027 року, а розгортання в кількох регіонах Google Cloud розтягнеться приблизно на півтора року. Про ціни на нові чипи джерела нічого не повідомляють.
Досвід попереднього покоління показує масштаб затримки. TPU v7p Ironwood з'явився у внутрішніх дата-центрах Google в четвертому кварталі 2025 року, а в оренду з публічними цінами (регіони US-Central1 в Айові та Europe-West2 під Лондоном) потрапив приблизно через рік. Якщо повторити цей темп, публічна оренда 8tx і 8i Max ймовірно почнеться не раніше 2028 року, але це наше припущення, а не заява Google.
Базовий TPU 8t, за словами видання, мав уже надходити в дата-центри Google. Через кластер із понад 1 мільйона таких чипів, за словами віцепрезидента Google Марка Лоймеєра, тренували Gemini 4 Carbon, про ціну якої ми писали окремо. TPU 8i, як пише видання, раніше мав затримки, і чи постачається він Google зараз, невідомо.
