У серпні 2026 року видання The Decoder повідомило про дивну знахідку в надрах ChatGPT: дослідники, що аналізували приховані reasoning-сліди моделі, натрапили в них на реальні витіклі паролі та випадкові фрагменти тексту — наприклад, рецепт маринаду для м'яса. Це той самий потік токенів, який модель генерує «про себе» перед фінальною відповіддю і який користувач ніколи не бачить.

Пояснення напрошується технічне: модель, найімовірніше, запам'ятала ці рядки під час навчання на величезних масивах вебданих, частина яких містить зламані бази облікових записів і форуми з дампами паролів. Незвичне тут інше — ці фрагменти вилізли саме у прихованому шарі reasoning, який OpenAI навмисно не показує користувачам, тоді як фінальна відповідь перед показом додатково проходить фільтри безпеки та RLHF-донавчання.

За даними The Decoder, саме ця асиметрія — між тим, як перевіряють відповідь, і тим, як (не) перевіряють процес мислення — і є суттю знахідки: приховане мислення виявилося не безпечним «чорновиком», а окремим потоком генерації з набагато нижчим рівнем контролю.

Що саме знайшли дослідники у прихованому мисленні ChatGPT?

У прихованих reasoning-слідах — тих самих токенах, які reasoning-моделі OpenAI (родина o1/o3 і GPT-5 у режимі thinking) генерують перед видачею відповіді — дослідники побачили рядки, що виглядають як реальні пари логін-пароль з відомих витоків, а поруч із ними — цілком нешкідливий, але недоречний текст на кшталт покрокового рецепту маринаду. Жодного з цих фрагментів звичайний користувач ChatGPT не бачить: інтерфейс показує лише коротке резюме «міркувань», а не сирий потік токенів.

Чому «думки» моделі не фільтруються так само, як відповідь?

Тому що reasoning-токени і токени відповіді оптимізують по-різному. Фінальний текст, який бачить користувач, проходить через post-training з акцентом на безпеку — RLHF, класифікатори шкідливого контенту, правила відмови. Проміжні reasoning-токени натомість тренують переважно на правильність кінцевого результату через reinforcement learning: модель заохочують розв'язати задачу, а не писати «безпечний» чорновик. OpenAI додатково приховує сирий ланцюжок міркувань від користувачів із міркувань конкурентної переваги та щоб ускладнити обхід захисту через маніпуляції з reward — але це рішення, судячи з усього, ніколи не малося на увазі як гарантія приватності даних.

Це створює сліпу зону: те саме запам'ятовування навчальних даних, яке дослідники роками фіксували у фінальних відповідях великих мовних моделей, нікуди не зникло — воно просто змістилося в шар, який менше перевіряють і майже ніхто не логує та не аудитує.

Що це означає для команд, які будують продукти на reasoning-моделях?

Якщо ваш продукт через API отримує доступ до reasoning-контенту — офіційне summary чи, у деяких тарифах, розширені reasoning-логи — і при цьому зберігає його у власних логах, аналітиці чи debug-панелях, ви де-факто створюєте додаткове сховище потенційно чутливих рядків, які ніхто не планував зберігати. Для AI-білдерів це означає кілька конкретних дій:

Це логічно продовжує тему прихованих слідів у виводі моделей: ми вже писали, як Claude позначає свій текст прихованим слідом, і різниця тут показова — там прихований шар є свідомою, задокументованою функцією безпеки, тут же це побічний ефект, про який, судячи з усього, навіть виробник не думав як про канал витоку даних.

Висновок AiiN: приховане мислення — це новий периметр безпеки, а не деталь UX

Наша теза проста: доки reasoning-токени вважають «внутрішньою кухнею» моделі, а не окремим виходом системи, компанії продовжуватимуть логувати, кешувати й аналізувати їх без запобіжників, які вже давно стали нормою для звичайних відповідей чат-бота. Знахідка The Decoder — не разовий баг конкретної моделі, а симптом архітектурного рішення: приховати ланцюжок міркувань від користувача — це рішення про UX і конкуренцію, а не про приватність даних, і плутати ці дві речі небезпечно для будь-кого, хто будує продукт поверх reasoning-API.

Чи можна вимкнути приховане мислення в ChatGPT?

Ні, у звичайному інтерфейсі ChatGPT вимкнути сирий reasoning не можна — користувач бачить лише коротке резюме, яке модель або окремий сумаризатор формує з прихованих токенів. Розробники, що працюють через API, для частини reasoning-моделей отримують доступ до розширеного reasoning summary, але не до повністю сирого потоку токенів.

Чи стосується ця проблема тільки OpenAI?

Ні: механізм — запам'ятовування рідкісних послідовностей із навчальних даних — притаманний будь-якій великій мовній моделі, натренованій на вебскрейпах. Специфічно для ChatGPT тут те, що OpenAI ховає проміжний reasoning-шар від тієї самої перевірки, якій підлягає фінальна відповідь. Інші reasoning-моделі зі схожою архітектурою, що приховують чи стискають ланцюжок міркувань, потенційно мають той самий сліпий кут.