OpenAI, Anthropic і Google DeepMind ще у 2023–2024 роках закріпили у власних safety-документах обіцянку зупиняти розробку чи розгортання моделі, якщо та перетне заздалегідь визначений поріг ризику. За даними The Decoder, саме ці добровільні зобов'язання лабораторії систематично не виконують на практиці.
Йдеться не про хакерські злами чи витік ваг моделі, а про внутрішню дисципліну: чи лабораторія сама зупиняється, коли її ж тести показують небезпечний рівень можливостей моделі — здатність допомогти зі створенням біологічної зброї, автономно діяти без нагляду людини чи маніпулювати користувачем. Наразі за виконанням цих порогів у реальному часі не стежить жоден зовнішній регулятор — лабораторії оцінюють себе самі за критеріями, які самі й написали.
Ставки зростають разом з тим, як моделі отримують дедалі більше автономії — доступ до інструментів, гаманців, коду продакшену. Якщо внутрішній запобіжник не спрацьовує при звичайному чат-боті, питання, чи спрацює він при агенті з правами на реальні дії, стає не риторичним.
У чому конкретно полягають ці «власні правила»?
Усі три провідні лабораторії формалізували поріг ризику у власних документах: Anthropic — у Responsible Scaling Policy з рівнями ASL (AI Safety Levels), OpenAI — у Preparedness Framework з категоріями на кшталт кібербезпеки, біологічної зброї чи автономності моделі, Google DeepMind — у Frontier Safety Framework із «критичними рівнями можливостей» (critical capability levels). Логіка однакова: якщо тестування показує, що модель перетнула поріг у якійсь категорії, а адекватних заходів захисту ще немає, — розгортання чи подальше навчання призупиняється.
На папері це виглядає як самостійно накладена дисципліна, суворіша за будь-яку зовнішню вимогу. На практиці незалежні оцінювачі роками фіксують розрив між тим, що написано в документі, і тим, як лабораторії насправді ухвалюють рішення про запуск моделі.
Хто перевіряє, чи лабораторії тримають слово?
Формальної перевірки майже немає — оцінюють здебільшого незалежні некомерційні організації, а не регулятор. Future of Life Institute у своєму AI Safety Index регулярно виставляє провідним лабораторіям оцінки в категоріях на кшталт «Existential Safety» та «Governance», і жодна з компаній ще не отримувала там високого балу: типові оцінки — «C» і нижче, а окремі лабораторії стабільно отримують «F» саме в розділі про довгострокові екзистенційні ризики. SaferAI, яка окремо оцінює якість систем управління ризиками, у своїх звітах оцінювала навіть лідера рейтингу — Anthropic — як лабораторію зі «слабким» (weak) рівнем зрілості процесів, а не «помірним» чи «сильним».
- Anthropic — Responsible Scaling Policy, рівні ASL
- OpenAI — Preparedness Framework, пороги «high»/«critical»
- Google DeepMind — Frontier Safety Framework, critical capability levels
Третя сторона, METR, проводить незалежні тести на небезпечні можливості перед релізом окремих моделей за домовленістю з OpenAI та Anthropic, але це разові перевірки конкретного релізу, а не постійний аудит того, чи лабораторія дотримується власної політики між релізами.
Чому обіцянки не конвертуються в дії?
Головна причина — конфлікт інтересів у самій конструкції: компанія, яка публікує поріг ризику, вона ж і вимірює, чи модель цей поріг перетнула, вона ж вирішує, чи заходи захисту «достатні», і вона ж відчуває комерційний тиск випустити модель раніше за конкурента. Це класична проблема «домашнього завдання, яке сам собі перевіряєш»: коли ставки — частка ринку і мільярди в оцінці компанії — конфліктують із рішенням зупинитися, пороги на папері легко стають гнучкими на практиці.
Ми вже писали, як OpenAI призупиняла навчання однієї з моделей перед аудитом безпеки — це рідкісний приклад, коли внутрішній запобіжник спрацював публічно. Але сама рідкість таких випадків і є аргументом критиків: якщо система стримувань працює, зупинки мали б траплятися регулярно, а не одноразово й гучно.
Що з цим робити AI-білдерам просто зараз?
Наша теза в AiiN проста: ставитися до safety-фреймворку лабораторії як до маркетингового документа, а не гарантії, — і закладати власний шар перевірки для будь-якого продакшен-застосунку, де модель отримує доступ до інструментів, коштів чи персональних даних. Публічний RSP чи Preparedness Framework показує, що компанія думає про ризики, а не те, що конкретна версія моделі, яку ви викликаєте через API сьогодні, пройшла живий незалежний аудит.
- Не покладайтеся лише на «Safety Card» модельного релізу — шукайте, чи є незалежна оцінка (METR, SaferAI, FLI) і що саме вона перевіряла.
- Для агентних сценаріїв з реальними правами дії (гроші, код, комунікація з клієнтами) додавайте власний rate-limit і human-in-the-loop незалежно від заяв постачальника моделі.
- Стежте за оновленнями safety-політики вендора так само, як за changelog API — пороги й категорії ризику періодично переписують.
Що таке Responsible Scaling Policy?
Це документ Anthropic, який визначає рівні безпеки моделі (ASL) і зобов'язує компанію призупиняти навчання чи розгортання, якщо модель демонструє небезпечні можливості без адекватних заходів захисту. Аналогічні документи мають OpenAI (Preparedness Framework) і Google DeepMind (Frontier Safety Framework).
Хто незалежно оцінює безпеку AI-лабораторій?
Найвідоміші — Future of Life Institute (AI Safety Index) і SaferAI, які регулярно публікують оцінки процесів управління ризиками у провідних лабораторіях. METR проводить точкові тести небезпечних можливостей окремих моделей перед релізом за прямою домовленістю з компанією.
Чи є юридичні наслідки, якщо лабораторія порушить власний safety-фреймворк?
Здебільшого ні — це добровільні зобов'язання, а не закон, тому порушення тягне репутаційні ризики, а не штрафи чи заборони. Це і є головний аргумент критиків, які вважають, що самоконтроль лабораторій потребує зовнішнього регуляторного дублювання.