Джакуб Пахоцкі, головний науковець OpenAI, публічно поставив під сумнів готовність власної індустрії безпечно прискорювати розробку штучного інтелекту. За його словами, жодна дослідницька лабораторія — включно з OpenAI — ще не розв'язала проблему alignment (узгодження цілей моделі з намірами людей), яка б виправдовувала масштабування на максимальній швидкості.

Це не рядова заява прес-служби про «відповідальний AI». Пахоцкі відповідає за напрямок досліджень OpenAI, і його слова звучать як визнання того, що темпи розробки моделей випереджають здатність компаній контролювати наслідки. За даними Techmeme, він висловив сподівання, що добровільні уповільнення темпів розробки стануть звичною практикою галузі, а не поодиноким винятком під тиском регуляторів.

Для AI-білдерів це сигнал іншого порядку, ніж чергове зовнішнє попередження від дослідників безпеки. Тут йдеться про людину всередині OpenAI, яка щодня бере участь у рішеннях про те, які моделі й коли випускати на ринок.

Що саме сказав Пахоцкі?

Головний науковець OpenAI визнав, що жодна лабораторія галузі не розв'язала alignment на рівні, достатньому для безпечного масштабування ШІ на максимальній швидкості. Формулювання важливе саме своєю обережністю: Пахоцкі не каже, що моделі небезпечні прямо зараз, — він каже, що ніхто ще не має інструментів, аби гарантувати безпеку при подальшому нарощуванні можливостей. Alignment у цьому контексті — це сукупність методів, які змушують модель діяти відповідно до намірів людини, а не лише формально виконувати інструкцію.

Чому визнання інсайдера важить більше, ніж заяви ззовні?

Заяви науковців і активістів поза індустрією можна списати на брак доступу до внутрішньої кухні лабораторій. Слова Пахоцкі такого алібі не мають: він бачить моделі до релізу, бере участь у оцінці ризиків і має пряму зацікавленість у тому, щоб OpenAI не відставала від конкурентів. Коли людина з таким доступом публічно каже, що технічна база безпеки не встигає за темпом розробки, це знижує довіру до тези «ми контролюємо ситуацію», яку зазвичай транслюють лабораторії назовні.

Практичний наслідок для команд, що будують продукти на API великих моделей: не варто сприймати офіційні заяви про безпеку як остаточну гарантію. Варто закладати власні шари перевірки — модерацію виводу, обмеження прав агентів, логування рішень моделі — незалежно від запевнень постачальника.

Що означає «добровільне уповільнення» на практиці?

Пахоцкі сподівається, що добровільні паузи чи зниження темпу випуску нових можливостей стануть нормою для галузі, а не подіями, які трапляються лише після зовнішнього тиску. На практиці це може означати:

Важливо: у самій заяві йдеться про сподівання, а не про вже узгоджений галузевий стандарт чи конкретні терміни. Наскільки добровільні уповільнення справді приживуться як практика — питання відкрите, і за нашою оцінкою це залежатиме передусім від конкурентного тиску між лабораторіями, а не лише від доброї волі.

Що з цього випливає для AI-білдерів?

Теза AiiN: заява Пахоцкі — це не привід чекати, поки лабораторії «доробають» alignment, а сигнал будувати продукти так, ніби гарантій безпеки з боку постачальника моделі поки що немає. Якщо навіть головний науковець OpenAI визнає розрив між швидкістю масштабування і зрілістю методів контролю, команди, що інтегрують LLM в агентні системи з реальними правами доступу, мають закладати власні запобіжники — від людини в контурі для критичних дій до жорстких лімітів на автономність агента. Про те, як OpenAI вже змінює підхід до впровадження автономних систем, ми писали, розбираючи чому автономний доступ агента до пошти небезпечний за замовчуванням.

Чи означає це, що OpenAI зупинить випуск нових моделей?

Ні, у заяві Пахоцкі немає обіцянки паузи чи мораторію на конкретні релізи OpenAI. Йдеться про загальне сподівання, що добровільне уповільнення стане практикою галузі — без конкретних дат чи зобов'язань.

Чи стосується проблема alignment лише OpenAI?

Ні, за словами Пахоцкі, жодна лабораторія галузі не розв'язала alignment достатньою мірою — формулювання прямо охоплює конкурентів OpenAI, а не лише саму компанію.