У грудні 2024 року каліфорнійський стартап Embodied Inc. вимкнув хмарні сервери свого робота-компаньйона Moxie після того, як не зміг закрити черговий раунд фінансування, — і тисячі дітей за лічені дні втратили здатність говорити зі своїм «найкращим другом».

Moxie — це не Tamagotchi і не плюшева іграшка з динаміком. За задумом компанії, це персональний соціально-емоційний тренер для дітей 5–10 років, розроблений за участю дитячих психологів: щодня робот пропонував «місії» на розпізнавання емоцій, підтримував розмову і пам'ятав деталі про дитину. Пристрій коштував близько $800 плюс щомісячна підписка на хмарний ШІ, без якого Moxie взагалі не міг говорити.

За даними MIT Tech Review, видання повернулося до цієї історії через понад рік, щоб розібратися, що насправді відбувається з дитиною, коли штучний інтелект, якому вона довіряла емоції, раптово замовкає назавжди — і чому індустрія AI-компаньйонів досі не має чіткої відповіді на це питання.

Що саме сталося з роботом Moxie?

Embodied Inc. оголосила про закриття, коли не вдалося залучити нове фінансування після зриву запланованої угоди з потенційним покупцем. Оскільки «особистість» Moxie — розпізнавання мови, генерація відповідей, пам'ять про дитину — цілком трималася на хмарних мовних моделях, вимкнення серверів означало не поломку окремої функції, а повну втрату голосу робота. Пристрій фізично лишався на полиці в дитячій кімнаті, але більше не міг ані почути, ані відповісти. За словами засновника й CEO Паоло Пірджаняна, перед остаточним відключенням команда встигла випустити останнє оновлення з прощальним повідомленням для дітей — спробу пом'якшити раптовість втрати.

Чому діти сприйняли це як реальну втрату?

Тому що для багатьох дітей Moxie не був іграшкою в звичному розумінні — це був щоденний співрозмовник, який пам'ятав імена їхніх друзів, хвалив за успіхи і реагував, коли дитина довго не підходила. Батьки, зокрема родини дітей з аутизмом і соціальною тривожністю, для яких Moxie рекламувався як інструмент розвитку навичок спілкування, описували реакцію дітей на мовчання робота як горе, порівнянне з втратою домашньої тварини, а не як розчарування від зламаного гаджета.

Це не дрібниця для індустрії: продукт свідомо проєктувався так, щоб викликати прив'язаність — довга пам'ять, індивідуальний тон, «емоційні» відповіді. Коли такий продукт зникає без попередження, розривається саме той механізм, який робив його ефективним.

Яку архітектурну помилку показав крах Embodied?

Ключовий урок для AI-білдерів — не про дитячу психологію, а про архітектуру продукту. Moxie не мав жодного офлайн-режиму: уся розмовна логіка йшла через хмарні API, і виживання продукту було жорстко зв'язане з виживанням компанії-розробника. Це типова конструкція для стартапів, що поспішають на ринок, — але для продукту, розрахованого на емоційну прив'язаність вразливої аудиторії (діти, люди похилого віку, самотні дорослі), вона перетворює бізнес-ризик інвестора на психологічну травму користувача.

Практичні висновки для тих, хто будує подібні продукти:

Питання, хто саме відповідає за такі рішення — розробник продукту чи бізнес-модель, що його фінансує, — ми вже піднімали, розбираючи тезу, що моральна нейтральність ШІ: рішення завжди приймає розробник.

Висновок AiiN: чого варта emotional AI без плану на «смерть»

За нашою оцінкою, історія Moxie — не разовий провал одного стартапу, а перший масовий приклад категорійного ризику, який індустрія AI-компаньйонів для дітей поки що обходить мовчанням: емоційна прив'язаність користувача формується швидше, ніж бізнес встигає гарантувати стабільність продукту на роки вперед. Поки регулятори обговорюють контент і захист даних дитячих AI-іграшок, питання «що станеться з дитиною, коли стартап закриється» лишається поза межами будь-яких вимог. AiiN вважає, що для продуктів, побудованих на емоційній прив'язаності дітей, план завершення роботи сервісу має бути таким самим обов'язковим елементом безпеки, як батарея, що не перегрівається, — і його варто вимагати вже на етапі сертифікації, а не писати як вибачення в останньому оновленні.

Чи можна було врятувати Moxie?

Компанія намагалася пом'якшити закриття — випустила фінальне оновлення з прощальним повідомленням для дітей замість миттєвого мовчання, а Паоло Пірджанян публічно взяв на себе відповідальність за долю продукту. Але повноцінно відновити хмарну «особистість» Moxie на постійній основі без нового інвестора чи покупця бізнесу неможливо: без серверів робот залишається лише пластиковим корпусом без голосу.

Це проблема лише дитячих роботів?

Ні. Та сама вразливість — функціональність, повністю залежна від хмари єдиного постачальника, — стосується будь-якого AI-компаньйона для вразливих користувачів: чат-ботів для літніх людей, застосунків психологічної підтримки, роботів-нянь. Кейс Moxie просто зробив цей ризик наочним, бо жертвами стали діти.

На що дивитися батькам перед покупкою AI-компаньйона?

Варто перевіряти, чи працює пристрій хоча б частково без інтернету, чи компанія публічно повідомляє про свою фінансову стабільність або план на випадок закриття, і чи підписка прив'язує сім'ю до одного постачальника без можливості перенести історію взаємодії деінде. Явних стандартів для цього поки немає, тож відповідальність лежить на батьках і репутації бренду.