OpenAI запустила ChatGPT for Teens — окрему версію чат-бота з батьківськими контролями та віковими обмеженнями для користувачів-підлітків. Фахівці з дитячої безпеки, однак, вже поставили під сумнів, чи ці механізми справді захищають неповнолітніх від шкідливого контенту.

За даними Engadget, критики звертають увагу на дві конкретні слабкі точки нового продукту: верифікацію віку користувача і модерацію контенту. Обидва механізми, за словами фахівців, працюють непослідовно — і саме тому регуляторний захист виглядає радше формальним, ніж технічно надійним.

Для команд, що будують AI-продукти для дітей і підлітків, цей кейс — не разова претензія до OpenAI, а сигнал про напрям, у якому рухається регуляторний тиск на весь сектор. Розберемо, що конкретно критикують експерти і які висновки з цього варто зробити тим, хто проєктує AI-сервіси для неповнолітніх користувачів.

Що саме критикують фахівці з дитячої безпеки?

Головна претензія — розрив між заявленою метою продукту та фактичною роботою його захисних механізмів. ChatGPT for Teens мав дати батькам контроль над темами, які бот обговорює з дитиною, і обмежити доступ до контенту, не призначеного для неповнолітніх. За даними Engadget, експерти вважають, що наявна верифікація віку не гарантує, що акаунт підлітка справді належить підлітку, а модерація контенту не завжди відсіює відповіді, ризиковані для цієї вікової групи.

Чому вікові ворота так важко зробити надійними?

Проблема не унікальна для OpenAI — вона типова для всієї категорії продуктів, розрахованих на неповнолітніх користувачів. Соцмережі та стрімінгові сервіси роками стикаються з тим самим: формальна вікова перевірка існує, але практично її легко обійти, якщо система спирається на самі лише декларативні дані користувача. Ключові слабкі місця, які зазвичай зводять нанівець такі системи:

• вік, який ніяк не звіряється з незалежним джерелом підтвердження;
• модерація контенту на основі ключових слів, а не контексту розмови;
• відсутність окремого механізму підтвердження особи батьків, які керують налаштуваннями контролю.

Тому будь-яка компанія, що заявляє про «підліткову версію» продукту, фактично обіцяє щось складніше за просте вікове поле у формі реєстрації. Ймовірно, саме ця системна слабкість, а не окремий недогляд OpenAI, і викликає найбільше занепокоєння в експертів дитячої безпеки.

Що це означає для AI-команд, які працюють з неповнолітніми користувачами?

Це означає, що регуляторна і репутаційна планка для AI-продуктів, розрахованих на дітей та підлітків, піднімається швидше, ніж встигають дозрівати технічні рішення для верифікації віку. Компанії, що додають підліткові версії своїх продуктів post-hoc — як опцію поверх дорослого продукту — ризикують отримати той самий закид, що й OpenAI: контроль існує на папері, але не витримує перевірки на практиці.

Висновок AiiN — що робити AI-білдерам зараз?

Наша теза: вікова верифікація і модерація контенту для неповнолітніх мають закладатися в архітектуру продукту на етапі дизайну, а не додаватися як окремий шар поверх готового дорослого сервісу. Якщо продукт претендує на аудиторію підлітків, перевірка віку повинна бути частиною основного флоу онбордингу, а не опційним чекбоксом, а модерація контенту — тестуватися окремо для цієї вікової групи, а не успадковуватися від загальної системи безпеки. Практично це означає перевірку трьох речей ще на етапі проєктування:

• чи вік перевіряється на рівні онбордингу, а не додається пізніше як окрема фіча;
• чи модерація контенту тестується окремо для сегменту неповнолітніх, а не успадковується від дорослої версії продукту;
• чи батьківський акаунт, який керує налаштуваннями контролю, сам проходить окрему верифікацію.

Кейс ChatGPT for Teens показує: коли бренд з ресурсами OpenAI отримує таку критику одразу після запуску, менші команди мають ще менше шансів пройти перевірку експертів без спеціального інвестування в цей напрям з першого дня. Для індустрії загалом цей кейс — нагадування, що дитяча аудиторія вимагає окремого продуктового треку, а не одного тумблера в налаштуваннях.

Що таке ChatGPT for Teens?

Це окрема версія ChatGPT від OpenAI з батьківськими контролями та віковими обмеженнями, розрахована на користувачів-підлітків. Продукт мав обмежувати доступ до частини контенту та давати батькам можливість керувати налаштуваннями безпеки дитини.

Чи означає критика експертів, що ChatGPT for Teens небезпечний?

Критика стосується не факту існування продукту, а надійності конкретних механізмів захисту — верифікації віку та модерації контенту. За даними Engadget, фахівці з дитячої безпеки вважають ці механізми недостатньо надійними, а не самі підліткові функції шкідливими за задумом.