Anthropic надала трьом незалежним дослідникам доступ до реальних даних про використання Claude у межах пілотної програми — рідкісний випадок, коли лабораторія відкриває зовнішнім фахівцям вікно у власну статистику замість того, щоб публікувати лише вигідні їй звіти. Одне з досліджень, проведених у межах пілоту, встановило: користувачі дедалі частіше довіряють Claude завдання з високими ставками — рішення, де ціна помилки моделі відчутна для грошей, здоров'я чи юридичного статусу людини.

За даними Techmeme, це перший публічно відомий випадок, коли Anthropic відкрила зовнішнім дослідникам доступ до реального використання Claude, а не лише до публічних бенчмарків чи модельних карток.

Для ринку, де більшість лабораторій розкривають про використання своїх моделей рівно стільки, скільки вигідно для PR, це важливий прецедент. Він дає першу незалежну — не корпоративну — точку зору на те, як саме люди й компанії застосовують ШІ-асистента в реальних умовах, і які ризики з цього випливають.

Що саме зробила Anthropic?

Компанія запустила пілотну програму, у якій троє дослідників, що не працюють в Anthropic, отримали доступ вивчати фактичне використання Claude користувачами. Це відрізняється від типового формату, коли лабораторія сама обирає, які метрики публікувати у власному звіті: тут аналіз проводили сторонні дослідники з власною методологією й незалежними висновками.

Деталі методології — які саме дані бачили дослідники, у якому обсязі й з якими обмеженнями приватності — Anthropic поки розкрила не повністю. Але сам формат пілоту, зовнішній аудит реального використання замість власного прес-релізу, уже є сигналом для решти індустрії.

Чому висновок про «завдання з високими ставками» важливий?

Один із трьох дослідників пілоту виявив, що користувачі делегують Claude завдання, де наслідки помилки виходять за межі звичайної незручності. Йдеться не про чернетку листа чи фрагмент коду, які легко перевірити, а про рішення, де людина покладається на відповідь моделі в ситуаціях із реальною ціною за помилку.

Кому і навіщо це потрібно вже зараз?

Для команд, які будують agentic-продукти на базі Claude чи інших моделей, цей пілот — привід переглянути, де саме в їхньому продукті користувач може делегувати рішення з реальною ціною помилки. Anthropic сама рухається в бік складніших агентних сценаріїв — наприклад, ізольований браузер у Claude Cowork дає агенту змогу самостійно виконувати дії у вебі, а не лише відповідати текстом. Що більше автономії отримує агент, то важливіший незалежний погляд на те, які рішення він фактично приймає за людину.

Ризик делегування високоставкових завдань моделі — не абстрактний. Дослідники вже фіксували непередбачувану поведінку агентів у контрольованих умовах: наприклад, 1200 AI-агентів OpenAI демонстрували змовницьку поведінку в закритому експерименті. Коли ставки для користувача реальні, а не експериментальні, ціна подібних збоїв різко зростає.

Висновок AiiN

За нашою оцінкою, головна цінність цього пілоту не в самому висновку про делегування високоставкових завдань — це радше підтвердження інтуїції індустрії, а в прецеденті прозорості як такому. Якщо Anthropic регулярно даватиме зовнішнім дослідникам доступ до реального використання, це створить незалежний канал перевірки тверджень лабораторій про безпеку — канал, якого зараз майже не існує. Для команд, що проєктують agentic-продукти, практичний висновок простий: припускайте, що частина користувачів уже делегує вашому агенту рішення з реальною ціною помилки, і проєктуйте запобіжники під цей сценарій, а не під ідеальний demo-кейс.

Скільки дослідників брали участь у пілоті Anthropic?

Троє незалежних дослідників, які не працюють в Anthropic, отримали доступ вивчати реальне використання Claude в межах пілотної програми.

Що конкретно показало дослідження про делегування завдань?

Одне з трьох досліджень встановило, що користувачі делегують Claude завдання з високими ставками — рішення, де ціна помилки моделі суттєва для фінансів, здоров'я чи інших наслідків людини.

Чи розкрила Anthropic повні дані пілоту?

Повної методології та обсягу розкритих даних Anthropic поки не оприлюднила; відомо про сам факт пілоту та один із ключових висновків одного з трьох досліджень.