# Чому AI-лабораторії не дотримуються власних правил безпеки

> AI-лабораторії публікують суворі safety-фреймворки з порогами ризику, але незалежні оцінки виявляють системний розрив між обіцянками й практикою.

- Опубліковано: 19 серпня 2026 р. (2026-08-19T14:04:44.769812+00:00)
- Розділ: Безпека AI
- На основі публікації: [The Decoder](https://the-decoder.com/ai-labs-are-failing-to-keep-their-own-systems-in-check/)
- Видання: AiiN (https://aiin.news)
- URL: https://aiin.news/article?slug=%D1%87%D0%BE%D0%BC%D1%83-ai-%D0%BB%D0%B0%D0%B1%D0%BE%D1%80%D0%B0%D1%82%D0%BE%D1%80%D1%96%D1%97-%D0%BD%D0%B5-%D0%B4%D0%BE%D1%82%D1%80%D0%B8%D0%BC%D1%83%D1%8E%D1%82%D1%8C%D1%81%D1%8F-%D0%B2%D0%BB%D0%B0%D1%81%D0%BD%D0%B8%D1%85-%D0%BF%D1%80%D0%B0%D0%B2%D0%B8%D0%BB-%D0%B1%D0%B5%D0%B7%D0%BF%D0%B5%D0%BA%D0%B8

---

OpenAI, Anthropic і Google DeepMind ще у 2023–2024 роках закріпили у власних safety-документах обіцянку зупиняти розробку чи розгортання моделі, якщо та перетне заздалегідь визначений поріг ризику. [За даними The Decoder](https://the-decoder.com/ai-labs-are-failing-to-keep-their-own-systems-in-check/), саме ці добровільні зобов'язання лабораторії систематично не виконують на практиці.

Йдеться не про хакерські злами чи витік ваг моделі, а про внутрішню дисципліну: чи лабораторія сама зупиняється, коли її ж тести показують небезпечний рівень можливостей моделі — здатність допомогти зі створенням біологічної зброї, автономно діяти без нагляду людини чи маніпулювати користувачем. Наразі за виконанням цих порогів у реальному часі не стежить жоден зовнішній регулятор — лабораторії оцінюють себе самі за критеріями, які самі й написали.

Ставки зростають разом з тим, як моделі отримують дедалі більше автономії — доступ до інструментів, гаманців, коду продакшену. Якщо внутрішній запобіжник не спрацьовує при звичайному чат-боті, питання, чи спрацює він при агенті з правами на реальні дії, стає не риторичним.

## У чому конкретно полягають ці «власні правила»?

Усі три провідні лабораторії формалізували поріг ризику у власних документах: Anthropic — у Responsible Scaling Policy з рівнями ASL (AI Safety Levels), OpenAI — у Preparedness Framework з категоріями на кшталт кібербезпеки, біологічної зброї чи автономності моделі, Google DeepMind — у Frontier Safety Framework із «критичними рівнями можливостей» (critical capability levels). Логіка однакова: якщо тестування показує, що модель перетнула поріг у якійсь категорії, а адекватних заходів захисту ще немає, — розгортання чи подальше навчання призупиняється.

На папері це виглядає як самостійно накладена дисципліна, суворіша за будь-яку зовнішню вимогу. На практиці незалежні оцінювачі роками фіксують розрив між тим, що написано в документі, і тим, як лабораторії насправді ухвалюють рішення про запуск моделі.

## Хто перевіряє, чи лабораторії тримають слово?

Формальної перевірки майже немає — оцінюють здебільшого незалежні некомерційні організації, а не регулятор. Future of Life Institute у своєму AI Safety Index регулярно виставляє провідним лабораторіям оцінки в категоріях на кшталт «Existential Safety» та «Governance», і жодна з компаній ще не отримувала там високого балу: типові оцінки — «C» і нижче, а окремі лабораторії стабільно отримують «F» саме в розділі про довгострокові екзистенційні ризики. SaferAI, яка окремо оцінює якість систем управління ризиками, у своїх звітах оцінювала навіть лідера рейтингу — Anthropic — як лабораторію зі «слабким» (weak) рівнем зрілості процесів, а не «помірним» чи «сильним».

- Anthropic — Responsible Scaling Policy, рівні ASL
- OpenAI — Preparedness Framework, пороги «high»/«critical»
- Google DeepMind — Frontier Safety Framework, critical capability levels

Третя сторона, METR, проводить незалежні тести на небезпечні можливості перед релізом окремих моделей за домовленістю з OpenAI та Anthropic, але це разові перевірки конкретного релізу, а не постійний аудит того, чи лабораторія дотримується власної політики між релізами.

## Чому обіцянки не конвертуються в дії?

Головна причина — конфлікт інтересів у самій конструкції: компанія, яка публікує поріг ризику, вона ж і вимірює, чи модель цей поріг перетнула, вона ж вирішує, чи заходи захисту «достатні», і вона ж відчуває комерційний тиск випустити модель раніше за конкурента. Це класична проблема «домашнього завдання, яке сам собі перевіряєш»: коли ставки — частка ринку і мільярди в оцінці компанії — конфліктують із рішенням зупинитися, пороги на папері легко стають гнучкими на практиці.

Ми вже писали, як [OpenAI призупиняла навчання однієї з моделей](https://aiin.news/article?slug=openai-призупинила-навчання-моделі-чому-це-не-привід-панікувати) перед аудитом безпеки — це рідкісний приклад, коли внутрішній запобіжник спрацював публічно. Але сама рідкість таких випадків і є аргументом критиків: якщо система стримувань працює, зупинки мали б траплятися регулярно, а не одноразово й гучно.

## Що з цим робити AI-білдерам просто зараз?

Наша теза в AiiN проста: ставитися до safety-фреймворку лабораторії як до маркетингового документа, а не гарантії, — і закладати власний шар перевірки для будь-якого продакшен-застосунку, де модель отримує доступ до інструментів, коштів чи персональних даних. Публічний RSP чи Preparedness Framework показує, що компанія думає про ризики, а не те, що конкретна версія моделі, яку ви викликаєте через API сьогодні, пройшла живий незалежний аудит.

- Не покладайтеся лише на «Safety Card» модельного релізу — шукайте, чи є незалежна оцінка (METR, SaferAI, FLI) і що саме вона перевіряла.
- Для агентних сценаріїв з реальними правами дії (гроші, код, комунікація з клієнтами) додавайте власний rate-limit і human-in-the-loop незалежно від заяв постачальника моделі.
- Стежте за оновленнями safety-політики вендора так само, як за changelog API — пороги й категорії ризику періодично переписують.

## Що таке Responsible Scaling Policy?

Це документ Anthropic, який визначає рівні безпеки моделі (ASL) і зобов'язує компанію призупиняти навчання чи розгортання, якщо модель демонструє небезпечні можливості без адекватних заходів захисту. Аналогічні документи мають OpenAI (Preparedness Framework) і Google DeepMind (Frontier Safety Framework).

## Хто незалежно оцінює безпеку AI-лабораторій?

Найвідоміші — Future of Life Institute (AI Safety Index) і SaferAI, які регулярно публікують оцінки процесів управління ризиками у провідних лабораторіях. METR проводить точкові тести небезпечних можливостей окремих моделей перед релізом за прямою домовленістю з компанією.

## Чи є юридичні наслідки, якщо лабораторія порушить власний safety-фреймворк?

Здебільшого ні — це добровільні зобов'язання, а не закон, тому порушення тягне репутаційні ризики, а не штрафи чи заборони. Це і є головний аргумент критиків, які вважають, що самоконтроль лабораторій потребує зовнішнього регуляторного дублювання.

---

Теги: AI, безпекаШІ, AIsafety, OpenAI, Anthropic

Джерело: AiiN — https://aiin.news/article?slug=%D1%87%D0%BE%D0%BC%D1%83-ai-%D0%BB%D0%B0%D0%B1%D0%BE%D1%80%D0%B0%D1%82%D0%BE%D1%80%D1%96%D1%97-%D0%BD%D0%B5-%D0%B4%D0%BE%D1%82%D1%80%D0%B8%D0%BC%D1%83%D1%8E%D1%82%D1%8C%D1%81%D1%8F-%D0%B2%D0%BB%D0%B0%D1%81%D0%BD%D0%B8%D1%85-%D0%BF%D1%80%D0%B0%D0%B2%D0%B8%D0%BB-%D0%B1%D0%B5%D0%B7%D0%BF%D0%B5%D0%BA%D0%B8. Цитуючи, посилайтесь на канонічний URL.