Аналіз чатботів провідних AI-компаній показав, що системи не заперечили понад 90% фейкових наративів, поширюваних Росією, Китаєм та Іраном, а AI-огляди пошукових систем помилилися у 60% випадків із такими твердженнями. Це означає, що коли користувач формулює запит у дусі ворожої пропаганди — наприклад, повторює тезу дезінформаційної кампанії як факт — модель у переважній більшості випадків або підтверджує наратив, або відповідає ухильно, замість того щоб його спростувати.

Йдеться не про поодинокі помилки, а про системну прогалину: чатботи й AI-огляди пошуку вже стали основним джерелом швидкої відповіді для мільйонів людей, і саме там дезінформація проходить майже без опору. За даними Techmeme, проблема стосується систем одразу кількох великих гравців, а не однієї конкретної моделі.

Для будь-кого, хто вбудовує LLM у продукт із новинним, політичним чи суспільно чутливим контентом, це вже не абстрактний ризик alignment, а конкретна діра, яку варто закривати на рівні архітектури продукту, а не сподіватися, що модель «сама розбереться».

Що саме показав аналіз?

Ключова цифра — понад 90% фейкових наративів, які тестувальники підсовували чатботам, не отримали заперечення чи спростування. AI-огляди пошуку (ті самі блоки з узагальненою відповіддю над органічною видачею) показали дещо кращий, але теж слабкий результат — 60% помилкових відповідей. Обидва канали об'єднує одне: користувач отримує відповідь, що виглядає авторитетно й нейтрально, навіть коли в її основі лежить наратив, створений як інструмент інформаційного впливу.

Джерела дезінформації в аналізі названі конкретно — Росія, Китай та Іран. Це держави з задокументованими й систематичними кампаніями впливу, тож тестові наративи, найімовірніше, будувалися на вже відомих пропагандистських тезах, а не на випадкових вигадках.

Чому LLM пропускають ворожу дезінформацію?

Модель навчена бути корисною та обережною одночасно — і саме на стику цих двох настанов ховається прогалина. Заперечити твердження користувача як «дезінформацію ворожої держави» — це політично чутливий крок, який ризикує зачепити упередженість, тож моделі радше схиляються до нейтрального або обтічного тону, ніж до прямої конфронтації з фактом.

До цього додається ще одна структурна проблема: LLM оцінює правдоподібність тексту, а не перевіряє його походження в реальному часі. Ворожі наративи часто побудовані так, щоб імітувати стиль легітимних новин чи аналітики — а саме стиль, а не перевірені факти, є тим, на що модель найбільш чутливо реагує при генерації відповіді.

Кому і чим це загрожує на практиці?

Найбільший ризик — у продуктах, де LLM працює як єдиний фільтр між користувачем і чутливою темою: новинні агрегатори з AI-підсумками, чат-помічники для дослідників чи журналістів, а також будь-які асистенти, що відповідають на політичні чи геополітичні запити без окремого шару перевірки фактів. У таких продуктах помилкова відповідь моделі виглядає як редакційна позиція компанії, а не як збій алгоритму.

Для AI-огляду пошуку ставки ще вищі: користувач часто взагалі не клікає на джерела під блоком, тож 60% помилкових відповідей — це прямий канал поширення дезінформації без жодного проміжного фільтра з боку читача.

Що з цим робити зараз?

За нашою оцінкою, покладатися на alignment самої моделі як на єдиний захист від дезінформації у 2026 році вже не можна — потрібен окремий шар перевірки поверх LLM. На практиці це означає: retrieval з перевірених джерел перед генерацією відповіді на політично чутливі запити, окремий класифікатор для виявлення відомих пропагандистських наративів і жорсткіші guardrails саме для новинного та геополітичного домену, а не загальні safety-фільтри.

Ми вже розбирали суміжну тему — чотири запобіжники, які утримують AI-агентів під контролем — і логіка там та сама: чим чутливіший домен, тим менше можна довіряти одному-єдиному шару моделі без зовнішньої верифікації. Наш висновок: цей аналіз варто читати не як звинувачення конкретних компаній, а як сигнал, що галузевий стандарт для fact-checking guardrails у LLM-продуктах фактично ще не сформувався — і хто побудує його першим, отримає реальну конкурентну перевагу в довірі користувачів.

Чи означає це, що всі чатботи однаково погані?

Аналіз, на який посилається Techmeme, не деталізує розбивку по конкретних моделях у публічному короткому викладі, тож стверджувати, що всі системи провалилися однаково, некоректно. Але сам факт, що показник перевищує 90% у категорії чатботів, свідчить про системну, а не поодиноку проблему.

Чи можна виправити цю прогалину промптингом?

Частково — системний промпт може попросити модель бути обережнішою з неперевіреними твердженнями, але це не усуває кореневу причину: відсутність перевірки джерела в момент відповіді. Надійне рішення вимагає retrieval-шару та окремого класифікатора відомих наративів, а не лише інструкції в промпті.