Google змінив логіку AI-пошуку: у відповідях на запити про виклики екстрених служб система більше не вказує національність людей, причетних до ситуації, навіть якщо ця деталь не стосувалася самої поради — куди й коли телефонувати в кризовий момент.

Зміна виглядає як точкове виправлення одного конкретного випадку упередженості. Але поруч із нею є інша деталь, яка привертає значно більше уваги: AI-пошук Google і далі ідентифікує людей за даними з їхніх профілів у Facebook, підписуючи фото чи згадки іменами та іншою особистою інформацією, здобутою із соцмережі. Обидва факти походять з одного продукту й з'явилися практично одночасно, що робить контраст особливо показовим.

Разом ці два факти окреслюють проблему, ширшу за одне виправлення. Google намагається балансувати між персоналізацією відповідей AI-пошуку — коли користувачу справді корисно знати, хто саме згаданий чи зображений, — і ризиком того, що система підтягує в результат чутливі чи упереджені деталі, яких там взагалі не мало бути.

Що саме змінилося в AI-пошуку Google?

Google прибрав із текстів AI-пошуку прямі згадки національності в порадах, пов'язаних із викликом екстрених служб. Раніше алгоритм міг долучити цю деталь до відповіді так само, як компонує будь-який інший факт із проіндексованих джерел — новин, форумів, соцмереж. Проблема в тому, що AI-пошук не завжди відрізняє релевантний факт від деталі, яка в конкретному контексті виглядає як профілювання за походженням.

За даними The Decoder, зміна торкнулася саме сценаріїв екстрених викликів — ситуацій, де точність і нейтральність відповіді мають найвищу ціну, бо йдеться про поради людям у кризовому стані.

Чому згадка національності стала проблемою?

Річ не в самому факті, а в тому, що система додавала його без запиту користувача й без очевидного зв'язку з порадою. Коли AI-пошук з власної ініціативи вплітає національність людини в інструкцію «як викликати поліцію» чи «що робити при ДТП», нейтральна довідкова відповідь перетворюється на конструкцію, яка мимоволі пов'язує походження людини з обставинами інциденту.

Це типовий ризик генеративного пошуку: модель узагальнює джерела, частина яких сама може містити упереджені формулювання, і переносить цей ухил у власне «нейтральне» резюме. Користувач бачить не цитату з конкретної статті, а стисле твердження від Google, яке виглядає як факт, а не як позиція джерела.

Чому AI-пошук досі підписує людей за Facebook-профілями?

Виправлення торкнулося лише одного типу персональних даних в одному типі запитів. Ідентифікація людей за відкритими профілями у Facebook лишилася без змін: AI-пошук і далі здатен зіставити фото чи згадку в новині з публічним акаунтом людини та додати її ім'я чи інші деталі до відповіді.

Це показує, що Google лікує симптоми вибірково, а не переглядає весь конвеєр збору й повторного використання персональних даних для AI-відповідей. Facebook-профілі — формально відкрите джерело, тож система не порушує умов доступу до даних. Але для людини, яку AI-пошук раптом «впізнав» і підписав у відповіді на чужий запит, різниці між «коректним» і «некоректним» профілюванням по суті немає. На практиці це означає, що приватність людини в AI-відповідях залежить не від типу даних, а від того, який конкретний скандал встиг привернути увагу компанії.

Що це означає для тих, хто будує AI-продукти?

Наш висновок: точкові патчі на кшталт прибирання національності з одного типу запитів не розв'язують кореневу проблему — вони закривають лише той інстанс упередженості, який встиг привернути публічну увагу. Публічний тиск лікує окремі симптоми швидше, ніж внутрішній аудит — і саме тому подібні виправлення з'являються фрагментами, а не системно. Для команд, що будують власні AI-пошукові чи RAG-системи з підключенням до відкритих джерел — соцмереж, форумів, новин, — це сигнал перевіряти не окремі формулювання відповіді, а весь ланцюжок: які атрибути особи модель має право підтягувати з джерела, у які типи запитів і за яких обставин.

Практичний висновок для білдерів: якщо продукт збагачує відповіді персональними даними з відкритих профілів, варто заздалегідь визначити окрему політику для чутливих категорій запитів — безпека, здоров'я, правопорушення, — а не покладатися на те, що модель сама відчує межу.

Це стосується лише пошуку Google у США?

У джерелі регіональна прив'язка зміни не уточнюється. Ймовірно, виправлення стосується AI-пошуку Google загалом, оскільки AI Overviews і AI Mode працюють на спільній основі для різних мовних ринків.

Чи можна відключити AI-відповіді Google, якщо їм не довіряєш?

Так, у налаштуваннях пошуку можна перемкнутися в класичний режим видачі посилань без AI-резюме. Це не вирішує проблему на рівні продукту, але дає користувачу контроль над тим, чи бачити згенеровану відповідь узагалі.