Microsoft представила Project Zenith — новий режим Windows для розробників, який спрощує запуск локальних мовних моделей із понад 30 мільярдами параметрів на пристроях із щонайменше 64 ГБ оперативної пам'яті. За даними Techmeme, ідеться саме про окремий режим операційної системи, а не про чергове доповнення до Copilot чи Windows AI Studio.

Досі розробник, який хотів запустити на своєму Windows-ноутбуці щось на кшталт Llama 3 70B чи Mixtral у повній вазі, мав збирати стек сам: WSL2, драйвери CUDA чи ROCm, Ollama або llama.cpp, ручне квантування під наявну пам'ять. Project Zenith обіцяє забрати цю рутину під капот ОС і зробити запуск великих моделей таким же простим, як увімкнення режиму розробника для звичайних застосунків.

Наш погляд у AiiN простий: це не про нову модель чи бенчмарк, а про зниження порогу входу в локальний self-hosting — саме там, де сьогодні живе найбільше тертя для AI-білдерів.

Що саме змінює Project Zenith у Windows?

Відповідь — у самій назві: це режим, а не окрема програма. Замість встановлення сторонніх інструментів розробник вмикає системний режим, який Windows адаптує під локальний інференс великих моделей. З відкритих деталей відомі два жорсткі критерії:

Це нижня межа, а не рекомендація — Microsoft явно орієнтує Zenith на клас пристроїв, які й так позиціонуються як робочі станції розробника, а не на масовий споживчий ноутбук.

Чому поріг «30B+ і 64 ГБ» — не випадковий?

Це питання прямої арифметики пам'яті. Модель на 30+ мільярдів параметрів у 4-бітному квантуванні важить приблизно 18–20 ГБ лише під ваги; додайте контекстне вікно, кеш KV і системні процеси Windows — і комфортний запас з'являється саме десь від 48–64 ГБ. Тобто Microsoft не вигадала поріг довільно, а підігнала вимогу Zenith під те, скільки пам'яті реально потрібно для стабільної роботи моделей такого класу без постійних помилок нестачі пам'яті.

Для порівняння: та ж логіка стоїть за апаратними рішеннями на кшталт Nvidia RTX Spark із 192 ГБ уніфікованої пам'яті — індустрія одночасно рухається в бік «більше пам'яті замість більше GPU» саме для локального інференсу.

Кому це реально дасть перевагу?

Найбільше виграють розробники, які вже мають або планують апгрейд до потужних робочих станцій із 64+ ГБ пам'яті — типово це ML-інженери, команди, що будують агентів з приватними даними, і компанії з вимогами не відправляти код чи документи у хмарні API.

Водночас поріг у 64 ГБ і 30B параметрів автоматично відсікає більшість бюджетних і навіть середніх ноутбуків — це інструмент для тих, хто вже інвестував у залізо, а не спосіб демократизувати AI для всіх.

Висновок AiiN

Наша теза: Project Zenith — це передусім хід утримання розробників у Windows, а вже потім технічна інновація. Інструменти на кшталт Ollama, LM Studio чи llama.cpp вже роками дозволяють запускати великі моделі локально на будь-якій ОС, і частина AI-розробників саме через незручність Windows для такого сценарію переходила на macOS чи Linux. Ймовірно, Microsoft реагує саме на цей відтік, вбудовуючи офіційну, підтримувану самою ОС альтернативу просто в Windows. Для AI-білдера це означає одне: якщо ви й так на Windows-workstation з великим обсягом пам'яті, варто слідкувати за виходом Zenith з бети — це може прибрати цілий шар інфраструктурного болю, який зараз забирає час у ML-розробника.

Чим Project Zenith відрізняється від запуску моделей через Ollama чи WSL2?

Головна відмінність — рівень інтеграції. Ollama, LM Studio чи ручний стек через WSL2 встановлюються поверх Windows як звичайні застосунки й самі керують драйверами і квантуванням. Project Zenith, за даними Techmeme, — це режим самої операційної системи, спрямований конкретно на розробників, що потенційно означає глибшу оптимізацію під наявне залізо без ручного налаштування кожного компонента окремо.

Чи обов'язкова потужна відеокарта для Project Zenith?

Наразі невідомо. Microsoft акцентує на обсязі оперативної пам'яті (64 ГБ+), а не на моделі чи наявності дискретного GPU, що натякає на орієнтацію радше на системну пам'ять і, можливо, NPU нового покоління Copilot+ PC. Точні апаратні вимоги поки не розкриті.