# Приховане мислення ChatGPT видало паролі з навчальних даних > За даними The Decoder, дослідники знайшли в прихованих reasoning-слідах ChatGPT витік паролів і сирі фрагменти навчальних даних, невидимі користувачу. - Опубліковано: 11 серпня 2026 р. (2026-08-11T18:48:24.934047+00:00) - Розділ: Безпека AI - На основі публікації: [The Decoder](https://the-decoder.com/but-marinade-and-leaked-passwords-are-what-researchers-found-in-chatgpts-hidden-reasoning/) - Видання: AiiN (https://aiin.news) - URL: https://aiin.news/article?slug=%D0%BF%D1%80%D0%B8%D1%85%D0%BE%D0%B2%D0%B0%D0%BD%D0%B5-%D0%BC%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%BD%D1%8F-chatgpt-%D0%B2%D0%B8%D0%B4%D0%B0%D0%BB%D0%BE-%D0%BF%D0%B0%D1%80%D0%BE%D0%BB%D1%96-%D0%B7-%D0%BD%D0%B0%D0%B2%D1%87%D0%B0%D0%BB%D1%8C%D0%BD%D0%B8%D1%85-%D0%B4%D0%B0%D0%BD%D0%B8%D1%85 --- У серпні 2026 року видання The Decoder повідомило про дивну знахідку в надрах ChatGPT: дослідники, що аналізували приховані reasoning-сліди моделі, натрапили в них на реальні витіклі паролі та випадкові фрагменти тексту — наприклад, рецепт маринаду для м'яса. Це той самий потік токенів, який модель генерує «про себе» перед фінальною відповіддю і який користувач ніколи не бачить. Пояснення напрошується технічне: модель, найімовірніше, запам'ятала ці рядки під час навчання на величезних масивах вебданих, частина яких містить зламані бази облікових записів і форуми з дампами паролів. Незвичне тут інше — ці фрагменти вилізли саме у прихованому шарі reasoning, який OpenAI навмисно не показує користувачам, тоді як фінальна відповідь перед показом додатково проходить фільтри безпеки та RLHF-донавчання. [За даними The Decoder](https://the-decoder.com/but-marinade-and-leaked-passwords-are-what-researchers-found-in-chatgpts-hidden-reasoning/), саме ця асиметрія — між тим, як перевіряють відповідь, і тим, як (не) перевіряють процес мислення — і є суттю знахідки: приховане мислення виявилося не безпечним «чорновиком», а окремим потоком генерації з набагато нижчим рівнем контролю. ## Що саме знайшли дослідники у прихованому мисленні ChatGPT? У прихованих reasoning-слідах — тих самих токенах, які reasoning-моделі OpenAI (родина o1/o3 і GPT-5 у режимі thinking) генерують перед видачею відповіді — дослідники побачили рядки, що виглядають як реальні пари логін-пароль з відомих витоків, а поруч із ними — цілком нешкідливий, але недоречний текст на кшталт покрокового рецепту маринаду. Жодного з цих фрагментів звичайний користувач ChatGPT не бачить: інтерфейс показує лише коротке резюме «міркувань», а не сирий потік токенів. - Витіклі облікові дані — імовірно, запам'ятані рядки з публічних дампів паролів, що потрапили в навчальний корпус; - Несумісний із запитом контент — ознака того, що модель під час «мислення» іноді просто відтворює найближчі за статистикою запам'ятані послідовності токенів; - Відсутність фільтрації — ці фрагменти не проходять той самий шар безпеки, що фінальна відповідь. ## Чому «думки» моделі не фільтруються так само, як відповідь? Тому що reasoning-токени і токени відповіді оптимізують по-різному. Фінальний текст, який бачить користувач, проходить через post-training з акцентом на безпеку — RLHF, класифікатори шкідливого контенту, правила відмови. Проміжні reasoning-токени натомість тренують переважно на правильність кінцевого результату через reinforcement learning: модель заохочують розв'язати задачу, а не писати «безпечний» чорновик. OpenAI додатково приховує сирий ланцюжок міркувань від користувачів із міркувань конкурентної переваги та щоб ускладнити обхід захисту через маніпуляції з reward — але це рішення, судячи з усього, ніколи не малося на увазі як гарантія приватності даних. Це створює сліпу зону: те саме запам'ятовування навчальних даних, яке дослідники роками фіксували у фінальних відповідях великих мовних моделей, нікуди не зникло — воно просто змістилося в шар, який менше перевіряють і майже ніхто не логує та не аудитує. ## Що це означає для команд, які будують продукти на reasoning-моделях? Якщо ваш продукт через API отримує доступ до reasoning-контенту — офіційне summary чи, у деяких тарифах, розширені reasoning-логи — і при цьому зберігає його у власних логах, аналітиці чи debug-панелях, ви де-факто створюєте додаткове сховище потенційно чутливих рядків, які ніхто не планував зберігати. Для AI-білдерів це означає кілька конкретних дій: - Не показуйте сирі reasoning-трейси кінцевим користувачам напряму — тільки офіційне summary від провайдера; - Прогоняйте reasoning-логи через ті самі PII- та secret-сканери (entropy-детектори паролів і токенів), що й вхідні дані користувачів, перш ніж зберігати їх для observability; - Встановлюйте TTL і мінімізацію зберігання для debug-логів reasoning — «про всяк випадок» тут коштує дорожче, ніж здається; - У регульованих галузях (медицина, фінанси) вважайте reasoning-шар тим самим периметром відповідності GDPR чи HIPAA, що й сам вихід моделі. Це логічно продовжує тему прихованих слідів у виводі моделей: ми вже писали, як [Claude позначає свій текст прихованим слідом](https://aiin.news/article?slug=claude-тепер-позначає-весь-свій-текст-прихованим-слідом), і різниця тут показова — там прихований шар є свідомою, задокументованою функцією безпеки, тут же це побічний ефект, про який, судячи з усього, навіть виробник не думав як про канал витоку даних. ## Висновок AiiN: приховане мислення — це новий периметр безпеки, а не деталь UX Наша теза проста: доки reasoning-токени вважають «внутрішньою кухнею» моделі, а не окремим виходом системи, компанії продовжуватимуть логувати, кешувати й аналізувати їх без запобіжників, які вже давно стали нормою для звичайних відповідей чат-бота. Знахідка The Decoder — не разовий баг конкретної моделі, а симптом архітектурного рішення: приховати ланцюжок міркувань від користувача — це рішення про UX і конкуренцію, а не про приватність даних, і плутати ці дві речі небезпечно для будь-кого, хто будує продукт поверх reasoning-API. ## Чи можна вимкнути приховане мислення в ChatGPT? Ні, у звичайному інтерфейсі ChatGPT вимкнути сирий reasoning не можна — користувач бачить лише коротке резюме, яке модель або окремий сумаризатор формує з прихованих токенів. Розробники, що працюють через API, для частини reasoning-моделей отримують доступ до розширеного reasoning summary, але не до повністю сирого потоку токенів. ## Чи стосується ця проблема тільки OpenAI? Ні: механізм — запам'ятовування рідкісних послідовностей із навчальних даних — притаманний будь-якій великій мовній моделі, натренованій на вебскрейпах. Специфічно для ChatGPT тут те, що OpenAI ховає проміжний reasoning-шар від тієї самої перевірки, якій підлягає фінальна відповідь. Інші reasoning-моделі зі схожою архітектурою, що приховують чи стискають ланцюжок міркувань, потенційно мають той самий сліпий кут. --- Теги: ChatGPT, OpenAI, БезпекаAI, LLM, ШІ, Паролі Джерело: AiiN — https://aiin.news/article?slug=%D0%BF%D1%80%D0%B8%D1%85%D0%BE%D0%B2%D0%B0%D0%BD%D0%B5-%D0%BC%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%BD%D1%8F-chatgpt-%D0%B2%D0%B8%D0%B4%D0%B0%D0%BB%D0%BE-%D0%BF%D0%B0%D1%80%D0%BE%D0%BB%D1%96-%D0%B7-%D0%BD%D0%B0%D0%B2%D1%87%D0%B0%D0%BB%D1%8C%D0%BD%D0%B8%D1%85-%D0%B4%D0%B0%D0%BD%D0%B8%D1%85. Цитуючи, посилайтесь на канонічний URL.