Коли інженери говорять про обмеження AI, мова зазвичай йде про алгоритми, датасети або обчислювальну потужність. Рідко хто згадує про фізичну упаковку чипів — процес, що дозволяє з'єднати кілька кристалів кремнію в один функціональний блок. Але саме ця «нішева» технологія, за даними NYT, перетворилася на один із найгостріших вузьких місць для всієї AI-індустрії.
Мова про просунуту упаковку — зокрема технологію CoWoS (Chip on Wafer on Substrate), яку TSMC довела до промислового масштабу. Без неї сучасні GPU на зразок NVIDIA H100 чи B200 просто не існують: CoWoS дозволяє підключати пам'ять HBM безпосередньо до обчислювального кристалу з пропускною здатністю, яку традиційні друковані плати не можуть забезпечити навіть близько. Результат — кратне зростання продуктивності при роботі з великими мовними моделями.
Але є проблема: TSMC контролює левову частку цього виробництва, а потужності для advanced packaging не масштабуються так само швидко, як попит з боку NVIDIA, AMD, Google та інших AI-гігантів. Розрив між потребою та можливостями росте.
Що таке просунута упаковка і чому вона критична
Advanced packaging — це не просто «скласти чипи в коробку». Це складний інженерний процес з мікроскопічними міжз'єднаннями, неможливими на звичайній платі.
- CoWoS і подібні технології: розміщення пам'яті HBM поруч із GPU на одній підкладці — пропускна здатність перевищує 3 ТБ/с проти ~100 ГБ/с у класичних рішень
- 2.5D та 3D-інтеграція: вертикальне та горизонтальне стекування кристалів для мінімізації затримок між компонентами
- Надвисока щільність міжз'єднань: саме це дає трансформерам змогу переміщувати трильйони байтів між пам'яттю та обчислювальним ядром щосекунди
Для тренування LLM це не опція — це фізична необхідність. Без HBM у CoWoS-конфігурації модель на 70 млрд параметрів просто «голодує» на пропускну здатність і втрачає десятки відсотків теоретичної продуктивності.
Монополія TSMC та геополітичний ризик
TSMC не просто виготовляє чипи — компанія контролює більшість CoWoS-виробництва у світі. Samsung і Intel намагаються розвинути аналогічні можливості, але значно відстають за масштабом і зрілістю технологій. Це створює класичний «єдиний вузол відмови»:
- Майже весь ланцюжок поставок AI-чипів вищого класу проходить через один острів
- Квоти на CoWoS-упаковку стали предметом закритих переговорів між NVIDIA, Google, Amazon та Microsoft
- Геополітична напруга навколо Тайваню прямо впливає на довгострокові плани будь-якої AI-компанії
За даними NYT, ця технологія перетворилася на несподіваний важіль у технологічному протистоянні США та Китаю. Американські обмеження на експорт AI-чипів частково стосуються саме advanced packaging-можливостей: без них навіть наявні кристали не дають повної продуктивності, а отже і нові GPU на «дозволеному» техпроцесі залишаються напівпотужними.
Що це означає для AI-білдерів
Для команд, що будують AI-продукти, ця ситуація має конкретні практичні наслідки вже сьогодні.
Дефіцит GPU триватиме довше, ніж здається. Нові фаби для advanced packaging будуються роками. TSMC анонсувала розширення CoWoS-потужностей в Аризоні та Японії, але промисловий масштаб — це 2027–2028 роки щонайменше. Хто очікував нормалізації ринку GPU у 2025–2026 — помилився.
Хмарні ціни на GPU відображають фізичні обмеження. AWS, Google Cloud, Azure конкурують за ті самі квоти CoWoS. Вартість GPU-години у хмарі не є «вільним ринком» — вона закладена у виробничі можливості TSMC у Тайвані.
Архітектурні рішення мають нове стратегічне значення. Команди, що оптимізують моделі під менш пам'яте-інтенсивні архітектури — MoE зі sparse activation, квантизація INT4/INT8, агресивна дистиляція — отримують перевагу не тільки за вартістю. Вони просто менш залежні від найдефіцитніших чипів і можуть масштабуватись там, де інші чекають у черзі.
Альтернативи є, але повільні. Cerebras, Groq та низка стартапів розробляють чипи з іншими архітектурами пам'яті. Але жоден поки не масштабувався до рівня NVIDIA H/B-серії за можливостями тренування фундаментальних моделей у промислових обсягах.
Висновок AiiN
Упаковка чипів — не та тема, про яку пишуть у трендових AI-тредах у X. Але саме вона, а не нова архітектура трансформера чи черговий раунд інвестицій, може виявитися реальним обмежувачем темпів розвитку AI у найближчі два-три роки.
Для AI-білдерів це практичний сигнал: стежте не лише за оголошеннями нових моделей від OpenAI чи Anthropic. Стежте за виробничими планами TSMC, за квотами CoWoS і за тим, хто отримує пріоритетний доступ до advanced packaging. Ці фізичні обмеження визначають, які AI-можливості стануть масово доступними — і коли саме.
Епоха «закидати проблему більшою кількістю GPU» поступово закінчується — не тому що GPU недостатньо потужні, а тому що фізика виробництва не встигає за апетитами індустрії. Це відкриває вікно для команд, що навчаться більше робити з меншим.