OpenAI розробила систему безпеки, яка виявляє зловживання своїм API, не зберігаючи вміст запитів і відповідей клієнтів. За даними The Decoder, механізм дозволяє компанії ловити порушення політики використання навіть у тих випадках, коли клієнт працює за угодою про нульове збереження даних (zero data retention).

Для великих корпоративних клієнтів — банків, страхових компаній, медичних стартапів — саме умова «ми не зберігаємо ваші дані» часто є вирішальною при виборі постачальника LLM. Але та сама умова традиційно ускладнювала модерацію: як відловити генерацію шкідливого контенту чи фішингового скрипта, якщо запит і відповідь одразу видаляються з памʼяті системи?

Нова розробка OpenAI намагається зняти цю суперечність — поєднати приватність на рівні контракту з можливістю технічно відстежувати зловживання в реальному часі. Це рідкісний випадок, коли технічне рішення напряму відповідає на конкретний запит enterprise-клієнтів, а не на абстрактну вимогу «більше безпеки».

Що саме побудувала OpenAI?

Компанія створила систему безпеки, здатну розпізнавати патерни зловживань API без постійного зберігання клієнтського вмісту. Замість того, щоб архівувати кожен запит для подальшого ручного або автоматичного review, класифікатори безпеки, судячи з опису The Decoder, працюють у момент обробки запиту й ухвалюють рішення «на льоту» — без потреби тримати сирий текст у базі даних після завершення інференсу.

Це принципово відрізняється від попередньої практики більшості LLM-провайдерів, де запити типово логуються на 30 днів (стандартна політика OpenAI API для звичайних клієнтів) саме для розслідування можливих порушень.

Чому zero data retention був проблемою для безпеки?

Угоди про нульове збереження даних — стандартна вимога для enterprise-контрактів у регульованих галузях, де застосовуються GDPR, HIPAA чи внутрішні політики компаній щодо конфіденційності клієнтських даних. Раніше вибір постачальника API стояв так: або клієнт отримує повну приватність і провайдер практично не може виявити зловживання, бо немає що аналізувати постфактум, або дані частково зберігаються «про всяк випадок» — і угода про нульове збереження стає формальністю.

Саме на перетині цих вимог і зʼявився запит на систему, що аналізує, але не архівує.

Як це може працювати технічно?

The Decoder не розкриває повної інженерної специфікації, тож тут доречна обережність. Ймовірно, ідеться про класифікатори безпеки, що оцінюють запит у момент виконання і зберігають лише результат оцінки — прапорець порушення, категорію ризику чи хеш для виявлення повторних інцидентів на тому самому акаунті, — а не сам текст запиту.

Такий підхід узгоджується із загальною індустріальною практикою: замість повного логу зберігається метадані-слід (timestamp, ID акаунту, категорія спрацювання класифікатора), достатній для блокування порушника чи ескалації в юридичний відділ, але недостатній для реконструкції змісту переписки.

Що це означає для AI-білдерів?

Для команд, що будують продукти поверх API OpenAI, новина має практичний вимір:

Це також сигнал іншим постачальникам LLM: приватність і безпека API більше не подаються як речі, що обовʼязково конкурують одна з одною.

Висновок AiiN

За нашою оцінкою, головна цінність цієї розробки — не в конкретному алгоритмі, а в прецеденті: великий провайдер LLM публічно заявляє, що модерацію можна відокремити від зберігання даних. Якщо OpenAI зможе підтвердити ефективність такого підходу на практиці — кількістю заблокованих зловживань, а не маркетинговими заявами, — це підніме планку очікувань для Anthropic, Google та інших постачальників enterprise-API: приватність-за-замовчуванням стане стандартом галузі, а не преміум-опцією за додаткову плату.

Для AI-білдерів це практичний сигнал: питання «зберігаєте ви наші дані?» варто замінювати на «як саме ви ловите зловживання без збереження даних?» — і вимагати від постачальників конкретної відповіді, а не формулювання з маркетингового буклету.

Чи стосується це звичайних користувачів ChatGPT?

Ні, судячи з фокусу новини, йдеться насамперед про API-клієнтів із угодами про нульове збереження даних — тобто про enterprise-використання, а не про споживчий застосунок ChatGPT, де стандартна політика логування залишається чинною.

Чи означає нульове збереження даних, що OpenAI взагалі нічого не бачить?

Ні: система все одно аналізує запит у момент обробки — вона лише не залишає сирий вміст у постійному сховищі після завершення роботи, зберігаючи, ймовірно, тільки метадані про виявлені порушення.