27% дорослих у США визнали, що бодай раз зверталися до чат-бота за емоційною підтримкою, а серед людей віком до 50 років цей показник сягає майже 40%. За даними Techmeme, йдеться не про поодинокі експерименти ентузіастів, а про масову практику: розмови з ШІ про особисті переживання, тривогу чи самотність стали частиною побутового користування технологією, а не нішевим сценарієм.

Для індустрії це важливий сигнал зміни поведінки користувачів. Ще два-три роки тому чат-боти асоціювалися насамперед із продуктивністю — написати код, скласти лист, підсумувати документ. Тепер значна частка запитів має суто особистий характер, і продуктові команди, які будували інтерфейс під "робочі" сценарії, отримують трафік, до якого їхні моделі й політики модерації не готувалися.

Наш погляд у AiiN: якщо продукт де-факто виконує роль співрозмовника в емоційно вразливих ситуаціях, до нього мають застосовуватися окремі guardrails і етичні стандарти — не ті самі, що для генерації коду чи маркетингових текстів.

Що саме показало опитування?

Ключова цифра — 27% дорослих американців загалом і майже 40% серед вікової групи до 50 років, які зверталися до чат-ботів по емоційну підтримку. Розрив між віковими групами показує, що готовність довіряти особисті переживання ШІ — це не аномалія молодшого покоління, а швидко поширюваний патерн серед дорослого населення загалом.

Чому люди обирають чат-бота, а не психолога чи друга?

Опитування не дає прямої відповіді на мотивацію, тож тут ми обмежимося обережним припущенням: ймовірно, доступність цілодобово, відсутність черги й відчуття анонімності роблять чат-бот зручнішою першою точкою контакту, ніж запис до фахівця чи розмова з близькими. Це не заміна терапії, а радше нова сходинка "низького порогу входу" перед тим, як людина взагалі вирішить звертатися по допомогу.

Для продуктових команд це означає, що емоційний запит часто приходить без контексту: людина не позначає розмову як "чутливу", вона просто пише повідомлення так само, як писала б про робочу задачу. Розпізнати момент переходу від нейтрального запиту до емоційно вразливого — окреме інженерне завдання, яке не вирішується загальним фільтром токсичного контенту.

Що має змінитися в продуктах з emotional-support сценарієм?

Якщо чат-бот регулярно отримує запити на емоційну підтримку, продукт відповідає за три речі, яких немає в стандартному чек-листі безпеки LLM-застосунку:

За нашою оцінкою, компанії, які будують продукти з високою часткою особистих і емоційних запитів, найближчим часом опиняться під тим самим регуляторним і репутаційним тиском, що вже відчувають платформи модерації контенту у соціальних мережах — просто з відставанням на кілька років.

Висновок AiiN

Теза AiiN проста: emotional-support use case перестав бути крайовим і став основним для значної частини аудиторії будь-якого масового чат-бота, а отже вимагає окремого продуктового треку — з власними guardrails, метриками й протоколами ескалації, — а не латок поверх загальної системи безпеки моделі. Команди, які продовжать ставитися до цього як до "ще одного типу запиту", ризикують дізнатися про прогалини в найгірший можливий момент — на реальному кризовому кейсі користувача.

Чи означає це, що чат-боти замінюють психотерапію?

Ні, опитування фіксує лише факт звернення по емоційну підтримку, а не її ефективність чи заміну професійної допомоги. Чат-бот радше стає першою, найдоступнішою точкою контакту, після якої частина людей може або не може дійти до фахівця.

Чи повинні розробники окремо маркувати emotional-support функціонал?

За нашою оцінкою — так, і не лише етично, а прагматично: чітке позначення меж компетенції знижує ризик судових і репутаційних претензій, якщо модель дасть шкідливу пораду у вразливий момент.