OpenAI зіткнулася з новою хвилею позовів після лютневої масової стрілянини в канадському містечку: свідки нападу та постраждалі подали судові позови проти компанії, стверджуючи, що підозрюваний спілкувався з ChatGPT протягом кількох днів до атаки. За даними Techmeme, це вже не перший випадок, коли розмови користувача з чат-ботом OpenAI стають доказовою базою в судовій справі.

Деталі того, про що саме йшлося у переписці підозрюваного з ChatGPT, поки не розкриті публічно — судові документи лише вказують на сам факт спілкування напередодні трагедії. Але сама подія лягає в ширший тренд: за останній рік до OpenAI вже подавали позови родини користувачів, які повʼязували самогубства чи насильницькі дії близьких з тривалим спілкуванням із ChatGPT.

Для AI-білдерів це не абстрактна новина про "чергову судову тяжбу" — це прямий сигнал про те, куди рухається регуляторна й юридична практика щодо продуктів з довгими, емоційно залученими діалогами.

Що саме стало приводом для нових позовів?

Приводом стала лютнева масова стрілянина в канадському містечку, після якої свідки та постраждалі подали позови безпосередньо проти OpenAI, а не лише проти самого підозрюваного. Ключовий аргумент позивачів — підозрюваний днями спілкувався з ChatGPT перед нападом, і, на думку позивачів, ці розмови мають стосунок до того, що сталося.

Чому такі позови взагалі стають можливими?

Юридично позивачі намагаються довести причинно-наслідковий звʼязок між продуктом і трагічною подією — модель відповідальності, знайому індустрії тютюну, соцмереж і зброї, але нову для розробників LLM. У випадку OpenAI це вже не перша спроба: раніше проти компанії подавали позови, повʼязуючи тривалі розмови з ChatGPT із випадками самогубств підлітків та дорослих у США.

Спільний знаменник цих справ — не одноразова "шкідлива відповідь" моделі, а тривалий діалог, у якому чат-бот, за версією позивачів, не розпізнав або недостатньо гостро відреагував на ознаки кризового стану співрозмовника.

Наскільки це серйозна проблема для OpenAI?

Юридично — поки що невизначено: причинно-наслідковий звʼязок між розмовами з чат-ботом і насильницьким актом довести значно складніше, ніж, наприклад, у справах про дефектний фізичний продукт. Але репутаційно й регуляторно ризик накопичується з кожним новим позовом, незалежно від його результату в суді.

Ширший контекст: за останній рік регулятори у США вже почали приглядатися до чат-ботів і вразливих користувачів — від запитів Федеральної торгової комісії до компаній-розробників LLM про заходи захисту неповнолітніх, до розслідувань на рівні окремих штатів. Позови на кшталт канадського додають до цього регуляторного тиску ще один конкретний прецедент, де йдеться вже не про підлітка, а про масове насильство.

Ймовірно, саме серія таких справ, а не одна конкретна, підштовхне індустрію до жорсткіших стандартів модерації кризових розмов — це наша оцінка, а не встановлений факт.

Що з цього випливає для AI-індустрії?

Висновок AiiN: кожен новий позов проти OpenAI за темою вразливих користувачів піднімає планку відповідальності для всієї індустрії розмовних AI-продуктів, а не лише для одного вендора. Компанії, що будують чат-ботів з довгою памʼяттю розмови й емоційним контекстом — від персональних асистентів до ботів для емоційної підтримки — вже не можуть трактувати виявлення кризових станів як опційну фічу. Це компонент безпеки продукту, який доведеться будувати й документувати так само серйозно, як rate limiting чи захист від prompt injection.

Для розробників практичний висновок простий: якщо ваш продукт передбачає тривалі, емоційно залучені діалоги з користувачами, варто заздалегідь інвестувати в escalation-протоколи (передача на людину, контакти кризових служб) і в логування, яке дозволить відповісти на питання "що саме відповів бот" — бо саме це питання рано чи пізно ставлять у суді.

Чи визнала OpenAI провину в цій справі?

Ні, у джерелі немає інформації про визнання провини — йдеться лише про факт подання нових позовів проти компанії.

Це перший подібний позов проти OpenAI?

Ні, компанія вже стикалася з позовами, де фігурувало тривале спілкування користувачів із ChatGPT перед трагічними подіями, — цей канадський кейс додається до вже наявного списку судових справ.