# IBM пояснила, як влаштована архітектура Granite 4.2 > IBM опублікувала технічний розбір гібридної архітектури Granite 4.2 — моделі поєднують шари уваги та SSM-блоки Mamba-2 для дешевшого інференсу. - Опубліковано: 25 серпня 2026 р. (2026-08-25T17:51:39.929071+00:00) - Розділ: AI-дослідження - На основі публікації: [Hugging Face](https://huggingface.co/blog/ibm-granite/granite-4-2) - Видання: AiiN (https://aiin.news) - URL: https://aiin.news/article?slug=ibm-%D0%BF%D0%BE%D1%8F%D1%81%D0%BD%D0%B8%D0%BB%D0%B0-%D1%8F%D0%BA-%D0%B2%D0%BB%D0%B0%D1%88%D1%82%D0%BE%D0%B2%D0%B0%D0%BD%D0%B0-%D0%B0%D1%80%D1%85%D1%96%D1%82%D0%B5%D0%BA%D1%82%D1%83%D1%80%D0%B0-granite-4-2 --- IBM оприлюднила через Hugging Face детальний технічний розбір архітектури та методики тренування родини великих мовних моделей Granite 4.2, зробивши ставку на компактність і ефективність, а не на нарощування кількості параметрів. [За даними Hugging Face](https://huggingface.co/blog/ibm-granite/granite-4-2), матеріал пояснює конкретні архітектурні рішення, які дозволяють моделям родини Granite працювати швидше і дешевше на типовому обладнанні. Для команд, що будують AI-агентів чи локальні асистенти, вибір базової моделі — це передусім питання бюджету на інференс: скільки пам'яті й обчислень з'їдає кожен запит. Саме тому технічні деталі на кшталт тих, що описала IBM, цікавлять не дослідників-теоретиків, а практиків, які рахують вартість токена в продакшн-системі. Granite 4.2 продовжує лінію, яку IBM заклала ще в Granite 4.0: замість класичної трансформерної архітектури модель поєднує шари уваги (attention) з шарами на основі структурованих просторів станів (SSM, зокрема Mamba-2). Такий гібридний підхід — головна причина, чому родину Granite узагалі варто розглядати окремо від типових відкритих LLM. ## Що саме описали IBM і Hugging Face? Матеріал розкриває, які саме компоненти архітектури Granite відповідають за компактність моделі та ефективність її тренування. Йдеться про поєднання шарів уваги та SSM-блоків у одній мережі, а також про підходи до тренувального пайплайну, які дозволяють досягати конкурентної якості без роздування кількості параметрів. Публікація на Hugging Face орієнтована на розробників, які хочуть розуміти внутрішню механіку моделі, а не лише читати бенчмарки. Це формат «як це побудовано» — рідкісний для реліз-анонсів, які зазвичай обмежуються таблицями результатів. ## Як гібридна архітектура впливає на вартість інференсу? Ключова ідея гібридного дизайну — розвантажити механізм уваги, який є найдорожчою частиною трансформера при роботі з довгим контекстом. Класичний attention зберігає KV-кеш, що росте пропорційно довжині діалогу чи документа, і саме цей кеш з'їдає пам'яті GPU найбільше. SSM-шари типу Mamba-2 обробляють послідовність з фіксованим станом, тому не накопичують такий кеш. Комбінуючи невелику частку шарів уваги з переважно SSM-шарами, IBM отримує модель, яка тримає якість трансформера на коротких задачах, але значно легша на довгому контексті й багатосесійному навантаженні — типовому сценарії для агентів, що ведуть тривалі діалоги або обробляють великі документи. - Менший KV-кеш → більше паралельних сесій на тому самому GPU - Стабільна швидкість генерації навіть при зростанні довжини контексту - Нижчий поріг входу для запуску на скромнішому залізі ## Кому це реально знадобиться? Найбільше від такого дизайну виграють команди, що деплоять агентів із довгою робочою пам'яттю — асистентів з історією діалогу, RAG-системи з великими документами, або пайплайни, де одна модель обслуговує багато паралельних запитів. Ймовірно, саме тому IBM позиціонує Granite не як конкурента флагманським моделям за розміром, а як робочий інструмент для вбудованих і масштабованих сценаріїв. Для тих, хто вже дивиться в бік локального інференсу на власному залізі — наприклад, на [Mac mini на M6 і M5 Pro](https://aiin.news/article?slug=mac-mini-на-m6-і-m5-pro-локальний-ai-інференс-від-899) — компактні гібридні моделі на кшталт Granite особливо доречні: менший меморі-футпринт означає, що модель реально влазить і рахує на споживчому обладнанні, а не лише в дата-центрі. ## Висновок AiiN Наша теза проста: відкритість архітектурних деталей — це те, чого бракує більшості реліз-анонсів LLM, і саме вона дозволяє AI-білдерам приймати обґрунтоване рішення, а не орієнтуватися на маркетингові бенчмарки. IBM вже показувала цей підхід раніше — зокрема, коли [випустила Turbo CTC-версію Granite Speech 5.0](https://aiin.news/article?slug=ibm-випустила-turbo-ctc-версію-granite-speech-5-0-на-hugging-face) з аналогічним фокусом на ефективність. Для команд, що обирають базову модель під агента з обмеженим бюджетом на інференс, Granite 4.2 варто тримати в короткому списку кандидатів для тестування — саме через гібридну архітектуру, яка знімає біль довгого контексту. ## Що таке гібридна архітектура Mamba-Transformer? Це поєднання в одній нейромережі класичних шарів уваги (attention) і шарів на основі структурованих просторів станів (SSM), таких як Mamba-2. Шари уваги відповідають за точність на коротких, складних залежностях у тексті, а SSM-шари обробляють довгі послідовності з фіксованим обсягом пам'яті, без розростання KV-кешу. ## Чи можна використовувати Granite 4.2 комерційно? Родина Granite від IBM традиційно виходить під відкритою ліцензією, орієнтованою на комерційне використання, що і робить її придатною кандидаткою для продакшн-агентів. Перед розгортанням варто перевірити точні умови ліцензії конкретної версії безпосередньо на сторінці моделі. ## Чим Granite відрізняється від типових відкритих LLM? Більшість відкритих моделей — це класичні трансформери, де вартість інференсу росте разом із довжиною контексту через KV-кеш. Granite вирізняється саме гібридним поєднанням attention та SSM-шарів, що і є головним предметом технічного розбору IBM. --- Теги: AI, Granite, IBM, HuggingFace, LLM, агенти Джерело: AiiN — https://aiin.news/article?slug=ibm-%D0%BF%D0%BE%D1%8F%D1%81%D0%BD%D0%B8%D0%BB%D0%B0-%D1%8F%D0%BA-%D0%B2%D0%BB%D0%B0%D1%88%D1%82%D0%BE%D0%B2%D0%B0%D0%BD%D0%B0-%D0%B0%D1%80%D1%85%D1%96%D1%82%D0%B5%D0%BA%D1%82%D1%83%D1%80%D0%B0-granite-4-2. Цитуючи, посилайтесь на канонічний URL.