Проросійські оператори застосували ChatGPT від OpenAI для масового написання текстів, які просували кремлівські наративи серед аудиторії у США та Європі. За даними The Decoder, йшлося про приховану кампанію впливу, розраховану саме на західних читачів, а не на внутрішню аудиторію Росії.

Це не поодинокий випадок. Великі мовні моделі вже кілька років фігурують у звітах про виявлені й заблоковані інформаційні операції — від написання постів для соцмереж до перекладу пропагандистських тез на десятки мов без участі носія мови. Новина не в самому прийомі, а в тому, що ChatGPT знову виявився зручним інструментом саме для кампанії, спрямованої на західну аудиторію.

Для AI-білдерів це не абстрактна новина про геополітику. Це нагадування, що модерація зловживань — частина продуктового циклу будь-якого генеративного сервісу, а не опція «для галочки». Питання вже не в тому, чи використовують LLM для дезінформації, а в тому, наскільки швидко платформи ловлять такі кампанії — і що це означає для команд, які будують продукти на тих самих моделях.

Що саме робили проросійські оператори з ChatGPT?

За описом кампанії, оператори використовували чат-бот для генерації й поширення матеріалів, вигідних Кремлю, серед західної аудиторії. Типова схема таких операцій складається з кількох кроків: підготовка тез, які потрібно просунути, генерація варіацій тексту під різні мови й майданчики, а потім розповсюдження через мережі акаунтів, сайти-двійники або коментарі під чужими публікаціями.

Саме ця економіка — а не сам факт існування пропаганди — робить генеративні моделі привабливим інструментом для операторів впливу.

Чому LLM зручніші за старі інструменти пропаганди?

ChatGPT та подібні моделі знімають головне вузьке місце класичних «фабрик тролів» — потребу в людях, які пишуть грамотним ідіоматичним текстом мовою цільової аудиторії. Модель видає стилістично коректний текст англійською, німецькою чи французькою за секунди, і той самий меседж легко перефразувати в десятках варіацій, щоб обійти прості фільтри дублікатів у соцмережах.

Це не робить генеративні моделі унікальним джерелом загрози — фейкові акаунти й скоординована поведінка існували задовго до ChatGPT. Але LLM суттєво знижують поріг входу: операція, яка раніше вимагала штату копірайтерів і перекладачів, тепер потребує лише промпту й списку тез.

Чому платформи ловлять такі кампанії із запізненням?

Головна причина — детекція за самим текстом майже не працює проти LLM-контенту: модель не залишає стилістичних «відбитків пальців», які раніше видавали копірайтера конкретної фабрики тролів. Платформам доводиться переходити на поведінкові сигнали — координацію публікацій у часі, спільну інфраструктуру акаунтів, патерни поширення посилань, — а це повільніший і дорожчий процес, ніж класифікація окремого тексту.

Тому в індустрії росте окремий сегмент компаній, що будують guardrails і системи виявлення зловживань поверх готових LLM-провайдерів: наприклад, ізраїльський стартап Alice залучив 140 млн $ саме на розробку AI-guardrails. Але навіть такі рішення здебільшого працюють постфактум — вони ловлять наслідки, а не блокують генерацію тексту на етапі самого промпту.

Що з цим робити командам, які будують продукти на LLM?

Наша теза в AiiN проста: провайдери моделей і платформи-дистриб'ютори контенту — соцмережі, форуми, поштові сервіси — опинилися у структурно різних позиціях. Перші можуть банити акаунти й обмежувати доступ до API, другі мають справу вже з готовим, «відмитим» від AI-слідів контентом. Це означає, що відповідальність за виявлення зловживань не може лежати виключно на OpenAI чи будь-якому іншому провайдері моделі — вона розподілена по всьому ланцюжку від API-виклику до стрічки конкретної соцмережі.

Якщо ваш продукт генерує текст для публікації в соцмережах чи розсилках для зовнішньої аудиторії, рейт-ліміти, логування промптів і маркування синтетичного виводу варто закладати як обов'язкову частину архітектури, а не як функцію, яку «додамо пізніше». Регулятори й самі платформи вже рухаються в бік вимог до маркування AI-контенту, і команди, які впровадять це заздалегідь, матимуть менше проблем із комплаєнсом.

Чи означає це, що OpenAI не контролює зловживання ChatGPT?

Ні, навпаки: виявлення й публічне розкриття подібної кампанії — результат моніторингу з боку компанії та незалежних дослідників, а не доказ бездіяльності. Але сам факт, що кампанія проіснувала певний час до виявлення, показує межі поточних методів детекції.

Чи можна надійно відрізнити текст ChatGPT від людського?

Універсальних і надійних детекторів AI-тексту наразі не існує: короткі, відредаговані вручну фрагменти обходять більшість класифікаторів. Тому платформи покладаються більше на поведінкові й мережеві ознаки — хто, коли і звідки публікує, — ніж на аналіз самого тексту.

Чи стосується проблема лише Росії?

Ні: провідні AI-компанії за останні роки публічно розкривали спроби використання власних моделей операторами впливу з різних країн, а не лише з Росії. Це системна проблема галузі, а не разовий випадок одного постачальника чи однієї держави.