NVIDIA Run:ai, платформа оркестрації GPU для Kubernetes, тепер повністю відкрита під ліцензією Apache 2.0: від планувальника до контрольної площини, яку можна розгорнути самостійно.
NVIDIA оприлюднила код 13 жовтня 2026 року, за даними TechRepublic. Безкоштовним став увесь стек, включно з KAI Scheduler, який і раніше був open source. Підписка для самостійного розгортання не потрібна, але команда сама відповідає за оновлення, реагування на інциденти й безпеку.
Що саме NVIDIA відкрила?
Run:ai тепер доступний як повний монорепозиторій: за даними MarkTechPost, у ньому є контрольна площина, сервіси кластера, інсталятор, CLI та MCP-сервер для AI-асистентів. Платформа працює поверх Kubernetes або OpenShift і не замінює їх.
Окремо можна використовувати чотири компоненти:
- KAI Scheduler: планувальник для Kubernetes із gang scheduling, справедливим розподілом ресурсів за часом, topology awareness, bin-packing і підтримкою DRA. Це проєкт CNCF Sandbox.
- GPU Fractioning Operator: розподіл GPU на частки на базі CUDA 13.4, де драйвер встановлює жорсткий ліміт пам’яті для кожного навантаження. Оператор замінив стару закриту реалізацію, не залежить від планувальника й експортує метрики для кожного пода.
- KAI Resource Management: керування проєктами, підрозділами, квотами та пулами вузлів. У прикладі NVIDIA дослідницькій команді гарантовано 50% ресурсів кластера.
- Workload Map: Go-бібліотека, що описує типи навантажень на кшталт PyTorchJob, RayCluster і сервісів KServe. Вона працює офлайн, але не планує навантаження, не ставить їх у чергу й не масштабує автоматично.
Що залишається платним?
Корпоративна підтримка NVIDIA залишається платною, тоді як основні функції платформи доступні безкоштовно. Документація, яку переказує TechRepublic, описує два варіанти: Open Source і Support-Entitled Release.
- Open Source: повна платформа для самостійного розгортання, розробки й продакшну з підтримкою спільноти. Образи та Helm-чарти можна завантажити без автентифікації.
- Support-Entitled Release: та сама базова платформа з підтримкою NVIDIA та зобов’язаннями щодо рівня сервісу. Для отримання образів і Helm-чартів потрібен API-ключ NGC.
Відсутність плати за підписку не скасовує витрат на Kubernetes-кластери, сумісні GPU, сховище, мережу, моніторинг і адміністраторів. NVIDIA не публікує єдиної ціни для всіх платних конфігурацій: NVIDIA AI Enterprise, наприклад, ліцензується за кількістю GPU. Універсального показника економії для різних середовищ компанія теж не наводить.
Документація Run 3.0 описує 12-місячний цикл підтримки релізів: 9 місяців повної підтримки й 3 місяці розширеної. Цей графік не означає, що безкоштовна версія включає корпоративну підтримку.
Як запустити Run:ai локально без GPU?
Скрипт local-dev.sh запускає локальне середовище Run:ai без фізичного GPU. Він збирає близько 50 Go-сервісів у контейнерах і створює кластер Kind із 5 вузлів на Kubernetes v1.32.5, де тестовий GPU-оператор імітує 8 карт Tesla-A10.
- Підтримуються macOS і Linux на amd64 та arm64. Windows не підтримується.
- Для Linux потрібні 4 CPU, 16 GB RAM і 100 GB вільного місця на диску.
- Для віртуальної машини Podman на macOS потрібно щонайменше 12 GB RAM.
- Одна повна збірка залишає близько 44 GB кешів.
Прапорець --gpu-operator перемикає скрипт на реальні GPU NVIDIA. Для цього потрібні Linux, Docker і NVIDIA Container Toolkit.
Які в Run:ai обмеження?
Локальний режим Run:ai з реальними GPU підтримує лише NVIDIA: акселератори AMD та Intel не підтримуються. NVIDIA не опублікувала бенчмарків рівня платформи для цього релізу, тому наведені джерела не дають кількісної оцінки приросту ефективності від його впровадження.
Run:ai підтримує GPU memory swap, за даними NVIDIA: неактивні частини моделі переміщуються з GPU в пам’ять хоста, щоб запускати більші моделі на меншій кількості GPU. Наданий опис продукту не уточнює доступність цієї можливості саме у відкритій версії.
Від Volcano, Kueue і YuniKorn, які зосереджені на плануванні чи чергах, Run:ai відрізняється обсягом функцій: поверх планувальника він пропонує повну платформу керування.
Що можна перевірити зараз?
Команда може перевірити керування ресурсами Run:ai локально без фізичних GPU, а для vLLM або SGLang — окремо випробувати Model Streamer.
- Запустіть local-dev.sh на Linux із 4 CPU, 16 GB RAM і 100 GB вільного місця на диску, щоб перевірити квоти й пули вузлів на 8 імітованих Tesla-A10. Повна збірка залишає близько 44 GB кешів.
- Для GPU Fractioning Operator перевірте сумісність вузлів із CUDA 13.4: нова реалізація використовує її механізм обмеження пам’яті.
- Якщо інференс працює на vLLM або SGLang, увімкніть Model Streamer прапорцем --load-format runai_streamer і порівняйте час завантаження зі стандартним завантажувачем. За наведеним у MarkTechPost бенчмарком Microsoft, на 8 віртуальних машинах Azure з NVIDIA H100 він завантажував моделі в 3–6 разів швидше, а пропускна здатність становила 80 Gbps проти близько 40 Gbps. Ці результати стосуються завантаження моделей, а не продуктивності всієї платформи Run:ai.
