Аналіз компанії Vals AI показує: виконання складної багатоетапної задачі — наприклад, повна збірка вебзастосунку — відкритою моделлю може мати екологічний слід у 10 000 разів більший, ніж відповідь на одне просте запитання в чаті. За даними Techmeme, різницю пояснюють кількістю ітерацій, викликів інструментів (tool calls) і токенів, які накопичуються у довгих агентних ланцюжках.

Це не проста арифметика на кшталт «довша задача — трохи більше енергії». Різниця в чотири порядки означає, що агентний режим роботи моделі й режим одноразової відповіді варто рахувати як два принципово різні продукти з точки зору вартості й енергоспоживання, а не як варіації одного й того самого запиту.

Для індустрії, яка активно просуває AI-агентів як наступний щабель продуктивності — від автономних інструментів для написання коду до асистентів, що самостійно бронюють квитки чи готують звіти, — це незручне, але корисне нагадування: ускладнення задачі множить не лише час виконання, а й ресурсний слід, причому нелінійно.

Що саме порахували у Vals?

Vals порівняла енергетичний слід простого одноразового запиту до відкритої моделі з виконанням складної багатоетапної задачі — типу «зібрати робочий вебзастосунок» — і отримала різницю приблизно в 10 000 разів. Ключове тут не сама модель, а формат взаємодії: одна репліка проти довгого автономного циклу «план → дія → перевірка → корекція», який модель проходить самостійно, без втручання людини на кожному кроці.

Важливо розуміти межі цього результату: йдеться про порівняння двох режимів роботи моделі, а не про пряме зіставлення відкритих моделей із закритими комерційними аналогами. Аналіз описує, у скільки разів дорожчою для довкілля стає задача, коли вона перетворюється з одного запиту на ланцюжок із десятків або сотень кроків.

Звідки береться різниця у 10 000 разів?

Основне джерело — архітектура агентних систем, у якій кожен новий крок повторно обробляє весь накопичений контекст. Зі збільшенням довжини ланцюжка зростає й обсяг тексту, який модель має «перечитати» перед кожною наступною дією.

• Кожен виклик інструменту (запуск коду, пошук у файлах, звернення до зовнішнього API) — це окремий прогін моделі, а не безкоштовна дія.
• Довгі агентні задачі включають цикли самоперевірки й виправлення помилок, які множать кількість ітерацій без пропорційного приросту корисного результату.
• Контекст, що передається моделі на кожному кроці, зазвичай не стискається — тому пізні кроки довгого ланцюжка обробляють у рази більше токенів, ніж перші.

У результаті вартість задачі росте не лінійно до кількості кроків, а швидше — приблизно як добуток довжини ланцюжка на середній обсяг контексту, який доводиться прокручувати на кожному з них.

Що це означає для тих, хто будує AI-агентів?

Практичний висновок простий: бюджет на обчислення (а разом з ним — і на енергоспоживання) для агентних фіч треба планувати окремо від бюджету на звичайний чат-інтерфейс ще на етапі архітектури продукту, а не постфактум, коли рахунок за інференс уже прийшов.

• Ставте жорсткий ліміт на кількість ітерацій і tool calls на одну задачу — без нього довгі агентні цикли можуть непередбачувано розростатися.
• Розділяйте моделі за роллю: важкі задачі — потужнішій моделі, а рутинні проміжні кроки (перевірка синтаксису, форматування, короткі уточнення) — меншій і дешевшій.
• Стискайте або підсумовуйте контекст між кроками замість того, щоб передавати повну історію діалогу в кожен наступний виклик.
• Логуйте кількість токенів і викликів на завершену задачу — це той самий unit-economics показник, що й вартість хостингу, і його варто відстежувати так само уважно.

Висновок AiiN

Наша теза: екологічний і вартісний слід агентного пайплайна — це не побічний ефект, який можна оптимізувати потім, а окрема метрика продукту, яку треба закладати в дизайн одразу після вибору «чи буде тут агент». Команди, які продовжують рахувати вартість агентних фіч за логікою простого чат-запиту, ризикують отримати рахунок за інференс і вуглецевий слід на порядки більший, ніж планували, — причому дізнаються про це вже post-factum, а не на етапі проєктування.

Чи означає це, що відкриті моделі шкідливіші за закриті?

Ні, аналіз Vals порівнює прості запити з багатоетапними задачами в межах відкритих моделей, а не відкриті моделі з закритими комерційними. Пряме порівняння екологічного сліду відкритих і закритих моделей на однакових агентних задачах наразі відсутнє в цьому дослідженні.

Як зменшити енергетичний слід агентного пайплайна вже зараз?

Найшвидший ефект дають ліміти на кількість кроків і retries, підбір меншої моделі для проміжних дій та стиснення контексту між ітераціями. Ці заходи не потребують зміни базової моделі — лише перегляду того, як побудований сам агентний цикл.