Meta розробляє інструмент на основі штучного інтелекту, здатний аналізувати вміст повідомлень у WhatsApp, щоб автоматично розпізнавати шахрайські схеми та інші загрози безпеці користувачів. За даними Speka, мета розробки — зробити застосунок безпечнішим і зупиняти спроби шахрайства ще до того, як користувач втратить гроші чи особисті дані.

Ключова деталь тут не в самій ідеї боротьби з шахрайством — платформи роблять це роками, — а в тому, що модель отримає доступ саме до змісту приватного листування, а не лише до метаданих на кшталт частоти повідомлень чи репутації номера. Це принципово інший рівень моніторингу приватного простору користувача.

Для WhatsApp, який роками позиціонував наскрізне шифрування як головну гарантію приватності, такий крок виглядає внутрішньо суперечливим. Якщо модель штучного інтелекту здатна аналізувати текст повідомлення, постає логічне запитання: наскільки це узгоджується з обіцянкою, що навіть сама Meta технічно не може прочитати листування користувачів.

Як ШІ читатиме зашифровані повідомлення?

Пряму відповідь на це запитання Speka не наводить — джерело новини не деталізує технічну архітектуру рішення. За нашою оцінкою, найімовірніший сценарій — обробка безпосередньо на пристрої користувача (on-device inference), за аналогією з тим, як свого часу планувала діяти Apple зі скануванням фото на iPhone ще до завантаження в iCloud, або як уже кілька років працює антиспам-фільтр у Google Messages. У такій моделі текст повідомлення нібито не залишає пристрій у відкритому вигляді — модель локально аналізує вміст і повертає лише сигнал «підозріло» чи «безпечно». Але це припущення, а не підтверджений факт: Meta поки не розкрила деталей реалізації, і саме тому питання про сумісність з наскрізним шифруванням лишається відкритим.

Навіщо Meta взагалі йде на такий ризик?

Пряма мотивація, судячи з опису новини, — покращити безпеку користувачів і запобігти кібератакам, а не розширити комерційне використання даних. Шахрайство в месенджерах давно вийшло за межі поодиноких випадків: фішингові посилання, фальшиві інвестиційні пропозиції та романтичні афери — типовий сценарій зловживання довірою саме в приватному чаті, куди платформа традиційно не мала модераційного доступу. Автоматичне виявлення таких патернів безпосередньо в переписці теоретично дає змогу заблокувати загрозу на ранній стадії — до моменту, коли користувач передасть гроші чи конфіденційні дані.

Що це означає для команд, які будують продукти на приватних даних?

Практичний висновок для розробників ШІ-продуктів простий: будь-яка функція, що обробляє контент приватного листування, потребує окремого правового й етичного аналізу ще на етапі дизайну, а не після релізу. Перед впровадженням подібної функції варто зафіксувати щонайменше чотири речі:

Висновок AiiN: що з цим робити вже зараз?

За нашою оцінкою, головний ризик тут не в самій функції виявлення шахраїв, а у прецеденті, який вона створює для індустрії. Коли компанія, що роками обіцяла наскрізне шифрування як непорушну гарантію, впроваджує ШІ-аналіз змісту переписки — навіть із благою метою — планка приватності для всього ринку месенджерів зсувається. Наступного разу подібний аргумент «це заради безпеки користувачів» зможе використати будь-хто, хто захоче отримати доступ до змісту листування з менш прозорою метою. AI-білдерам, які працюють із приватним контентом, варто вже зараз документувати, які саме дані обробляє їхній продукт, і перевіряти, чи справді функція безпеки потребує доступу до сирого тексту, чи достатньо сигналів на рівні метаданих.

Чи означає це, що Meta читатиме всі повідомлення у WhatsApp?

Судячи з опису Speka, йдеться про автоматизований аналіз повідомлень моделлю ШІ для виявлення загроз, а не про ручний перегляд листування співробітниками Meta. Компанія, втім, поки не розкрила, чи обробка відбувається на пристрої користувача, чи на серверах Meta.

Чи можна буде відмовитися від такого аналізу?

Це одне з ключових незакритих питань новини. У джерелі не зазначено, чи функція буде увімкнена за замовчуванням для всіх користувачів, чи стане опційною з можливістю відмови.

Чим це відрізняється від звичайного антиспам-фільтра в месенджерах?

Традиційні антиспам-системи здебільшого спираються на метадані — частоту повідомлень, репутацію номера, патерни масової розсилки. Аналіз ШІ безпосередньо змісту переписки — це якісно інший рівень доступу до приватної інформації користувача.