# Новий підхід OpenAI до reasoning тривожить фахівців з безпеки > OpenAI змінила підхід до навчання reasoning-моделей — дослідники AI-безпеки попереджають про зниження прозорості й передбачуваності моделі, каже TechCrunch. - Опубліковано: 3 вересня 2026 р. (2026-09-02T22:14:52.824914+00:00) - Розділ: Безпека AI - На основі публікації: [TechCrunch](https://techcrunch.com/2026/09/02/openais-new-reasoning-technique-alarms-ai-safety-experts/) - Видання: AiiN (https://aiin.news) - URL: https://aiin.news/article?slug=%D0%BD%D0%BE%D0%B2%D0%B8%D0%B9-%D0%BF%D1%96%D0%B4%D1%85%D1%96%D0%B4-openai-%D0%B4%D0%BE-reasoning-%D1%82%D1%80%D0%B8%D0%B2%D0%BE%D0%B6%D0%B8%D1%82%D1%8C-%D1%84%D0%B0%D1%85%D1%96%D0%B2%D1%86%D1%96%D0%B2-%D0%B7-%D0%B1%D0%B5%D0%B7%D0%BF%D0%B5%D0%BA%D0%B8 --- OpenAI змінила метод навчання reasoning-моделей так, що частина фахівців з AI-безпеки публічно висловила тривогу — про це 2 вересня 2026 року повідомив TechCrunch. Ідеться не про нову модель чи бенчмарк, а про сам процес: як компанія навчає систему «мислити» перед тим, як видати відповідь. Для AI-білдерів це не абстрактна новина з розряду «хтось десь стурбований». Reasoning-моделі на кшталт o-серії чи GPT-5 будують проміжний ланцюжок міркувань (chain-of-thought) перед фінальною відповіддю, і саме цей ланцюжок роками був чи не єдиним вікном, крізь яке дослідники могли бачити, «чому» модель прийшла до того чи іншого висновку. Якщо тренувальний процес змінює природу цього ланцюжка, змінюється і те, наскільки взагалі можна довіряти поясненням моделі. [За даними TechCrunch](https://techcrunch.com/2026/09/02/openais-new-reasoning-technique-alarms-ai-safety-experts/), саме тому нову техніку OpenAI сприйняли не як технічну деталь, а як сигнал: компанія балансує між ефективністю reasoning-моделей і прозорістю того, як вони приходять до відповіді. ## Що саме занепокоїло дослідників безпеки? Ключова претензія — не до якості відповідей моделі, а до передбачуваності її поведінки. Reasoning-моделі навчають через reinforcement learning: система отримує винагороду за правильний фінальний результат, а проміжні кроки міркування генеруються вільно. Якщо оптимізаційний тиск під час навчання зачіпає сам ланцюжок міркувань, а не лише відповідь, з'являється ризик, що цей ланцюжок перестає чесно відображати внутрішній «хід думки» моделі — він може ставати радше постфактум-поясненням, підігнаним під потрібний результат. Це не суто гіпотетична проблема. Ще до цієї новини кілька дослідницьких команд, включно з окремими групами всередині самої OpenAI, публічно попереджали: чим сильніше тренувати модель безпосередньо на вигляд її ланцюжка міркувань, тим вища ймовірність, що цей ланцюжок втратить **faithfulness** — здатність чесно відображати причини, а не просто виглядати переконливо для людини чи класифікатора. ## Чому це важливо саме зараз, а не абстрактно? Тому що chain-of-thought — це практично єдиний дешевий інструмент моніторингу reasoning-моделей, який є у індустрії сьогодні. Компанії, включно з OpenAI, публічно закликали не оптимізувати моделі так, щоб ланцюжок міркувань ставав менш читабельним для людини — саме тому, що втрата цього вікна різко ускладнює виявлення небезпечної чи оманливої поведінки до того, як вона проявиться в діях моделі. Якщо нова техніка навчання посуває баланс у бік меншої прозорості заради вищої точності відповідей, це системний компроміс, а не окремий баг. - Менша прозорість ланцюжка міркувань ускладнює аудит моделі перед продакшн-релізом. - Автоматизовані safety-класифікатори, які читають chain-of-thought, стають менш надійними. - Команди, що покладаються на «пояснення» моделі як на діагностику, ризикують отримувати правдоподібну, але не правдиву картину. ## Що з цим робити командам, які будують продукти на reasoning-моделях? Найпрактичніший висновок — перестати ставитися до ланцюжка міркувань reasoning-моделі як до надійного логу для дебагу чи compliance. Якщо ваш продукт покладається на «пояснення» моделі (наприклад, у медичних, фінансових чи юридичних сценаріях), варто закладати незалежну верифікацію фінального результату, а не лише читати проміжні кроки як доказ коректності. Ймовірно, у найближчі місяці постачальники reasoning-моделей почнуть публікувати окремі метрики faithfulness ланцюжка поруч зі стандартними бенчмарками точності — але поки що це наша оцінка тренду, а не підтверджений факт. Схожі побоювання вже звучали і в контексті регуляторного тиску: наприклад, коли [суд вимагав розкрити секретні AI-safety тести](https://aiin.news/article?slug=суд-може-змусити-трампа-розкрити-секретні-ai-safety-тести), ключовим питанням теж була відсутність зовнішньої перевірності внутрішніх процесів компаній. ## Висновок AiiN Наша теза: проблема не в тому, що OpenAI зробила reasoning-моделі «гіршими» чи «небезпечнішими» в моменті — вона в тому, що індустрія тренує моделі мислити швидше й точніше, одночасно звужуючи єдиний канал, через який зовнішній спостерігач міг перевірити, що саме відбувається всередині. Це компроміс між продуктивністю і спостережуваністю, і поки що індустрія вирішує його мовчки, техніка за технікою, без публічного стандарту на кшталт «не оптимізуй проти читабельності CoT». Для AI-білдерів це сигнал закладати власні шари верифікації вже зараз, а не чекати, поки постачальники моделей нормують прозорість самі. ## Що таке faithfulness ланцюжка міркувань? Faithfulness — це ступінь, до якого проміжні кроки, які модель показує перед відповіддю, реально відображають причини, через які вона дійшла саме до цього висновку, а не є згенерованим постфактум поясненням. Низька faithfulness означає, що аудит за текстом міркувань не гарантує розуміння реальної логіки моделі. ## Чи означає це, що reasoning-моделі OpenAI стали небезпечнішими? Прямих доказів цього в матеріалі TechCrunch немає — йдеться про занепокоєння дослідників щодо напряму навчання, а не про зафіксований інцидент. Це радше сигнал стежити за наступними релізами й тим, чи змінюється передбачуваність поведінки моделі на практиці. --- Теги: OpenAI, AIбезпека, ChainOfThought, reasoning, AIsafety Джерело: AiiN — https://aiin.news/article?slug=%D0%BD%D0%BE%D0%B2%D0%B8%D0%B9-%D0%BF%D1%96%D0%B4%D1%85%D1%96%D0%B4-openai-%D0%B4%D0%BE-reasoning-%D1%82%D1%80%D0%B8%D0%B2%D0%BE%D0%B6%D0%B8%D1%82%D1%8C-%D1%84%D0%B0%D1%85%D1%96%D0%B2%D1%86%D1%96%D0%B2-%D0%B7-%D0%B1%D0%B5%D0%B7%D0%BF%D0%B5%D0%BA%D0%B8. Цитуючи, посилайтесь на канонічний URL.