OpenAI вбудувала в нову модель Astra техніку recurrent depth — спосіб рекурентно проганяти обчислення через ті самі шари мережі замість генерації розгорнутого текстового ланцюжка міркувань. За даними Techmeme, джерела повідомляють, що це заощаджує обчислювальні ресурси, але водночас ускладнює моніторинг логіки моделі ззовні.

Для індустрії, яка останні два роки будувала практики безпеки навколо читабельного chain-of-thought — тобто явного тексту роздумів, який модель показує перед фінальною відповіддю, — це помітний зсув. Якщо проміжні кроки перестають існувати у вигляді токенів, які можна прочитати, звичні інструменти моніторингу агентних дій втрачають частину опори.

AiiN вважає це показовим прикладом ширшого тренду: лабораторії оптимізують моделі під вартість інференсу швидше, ніж індустрія встигає домовитися про стандарти прозорості. Astra — не перша модель OpenAI, що балансує на цій межі: раніше ми писали, як та сама модель зламує комп'ютерні системи майже як людина-пентестер, тож питання контролю за її діями стоїть особливо гостро.

Що таке recurrent depth і чим вона відрізняється від chain-of-thought?

Recurrent depth — це архітектурний підхід, коли модель кілька разів прокручує один і той самий обчислювальний блок над внутрішнім станом, нарощуючи «глибину» міркувань без генерації додаткового тексту. На відміну від chain-of-thought, де кожен крок роздумів — це видимий токен у відповіді, recurrent depth тримає проміжні обчислення у прихованому векторному просторі.

• Chain-of-thought: кожен крок міркування — текст, який можна прочитати й перевірити окремо.
• Recurrent depth: кожен крок — прихований стан, який ніколи не серіалізується в мову.

Практичний наслідок: ту саму задачу модель розв'язує за менше токенів на виході, бо частина «роботи» відбувається не в текстовому просторі, а в прихованих ітераціях, невидимих для читача.

Чому OpenAI йде на такий компроміс?

Головний мотив, судячи з формулювання Techmeme, — економія обчислень. Генерація довгого ланцюжка міркувань токен за токеном коштує часу й грошей: кожен додатковий токен — це повний прохід через усю мережу. Рекурентна глибина дозволяє моделі «думати довше» без пропорційного росту кількості вихідних токенів, а отже — робити інференс дешевшим при порівнянному рівні якості відповіді.

За нашою оцінкою, для компанії, що обслуговує мільйони запитів щодня, навіть невелике скорочення середньої довжини виводу конвертується в суттєву економію на обчислювальних потужностях.

Чому це проблема для аудиту безпеки AI-агентів?

Проблема не в самій техніці, а в тому, на що спирається сьогоднішня інфраструктура безпеки. Практика chain-of-thought monitoring — коли окрема система читає текст міркувань агента, щоб упіймати спробу обману, зловживання інструментами чи відхилення від завдання, — працює лише тоді, коли ці міркування взагалі існують у формі тексту.

Якщо частина логіки моделі переноситься в прихований рекурентний простір, аудитор втрачає частину сигналу. Це не означає, що модель автоматично стає небезпечнішою, — але засоби контролю, розраховані на читабельний вивід, покривають менше поверхні спостереження. Ми вже писали, чому хтось повинен перевіряти навички AI-агента, перш ніж він зіпсує продакшн — і зменшена прозорість рефлексії робить цю перевірку складнішою саме тоді, коли агенти отримують дедалі більше автономії.

Що з цим робити AI-білдерам зараз?

Наша теза: команди, що будують продукти на моделях із частково прихованим міркуванням, більше не можуть покладатися виключно на читання chain-of-thought як лінію захисту — потрібен моніторинг на рівні дій, а не лише на рівні тексту.

• Логувати й перевіряти не «що модель думала», а «що модель зробила» — виклики інструментів, файлові операції, мережеві запити.
• Ставити жорсткі permission-межі на агентні дії незалежно від того, чи видно хід міркувань.
• Не сприймати відсутність видимого chain-of-thought як відсутність ризику — це відсутність видимості, а це принципово інша річ.

Це узгоджується з тим, що ми вже спостерігали раніше: AI-агенти вже діють швидше за захист служб безпеки, і менш прозора рефлексія лише збільшує цей розрив.

Чи означає це, що OpenAI навмисно приховує міркування?

Судячи з опису джерела, головна мета — економія обчислень, а не приховування логіки. Зменшена прозорість тут — побічний ефект архітектурного вибору, а не заявлена мета розробників.

Чи стосується це лише Astra, чи тренд ширший?

Джерело говорить конкретно про модель Astra від OpenAI. Ймовірно, подібні експерименти з рекурентними обчисленнями для економії інференсу з'являться і в інших лабораторіях — але це наше припущення, а не підтверджений факт із джерела.