Anthropic, OpenAI та Google DeepMind — три лабораторії, які вже публічно закріпили біологічні ризики (CBRN, chemical-biological-radiological-nuclear) як окрему категорію в своїх політиках безпеки, — нарощують тестування моделей саме на цей вид загроз. За даними Techmeme, перевірка на біоризики складніша за оцінку кіберзагроз, бо останні можна відтворити в ізольованому цифровому середовищі, а перші — ні.
Різниця принципова. Вразливість у коді можна знайти, проексплуатувати в пісочниці й побачити результат — модель або зламала систему, або ні. З біологічною зброєю такий тест неможливий: ніхто не буде перевіряти, чи справді підказка моделі допомогла синтезувати патоген. Лабораторії змушені оцінювати ризик непрямо — через експертні панелі, проксі-задачі та порівняння відповідей моделі з тим, що вже відомо з відкритих наукових джерел.
Для команд, що будують продукти поверх Claude, GPT чи Gemini, це не абстрактна дискусія про етику. Це сигнал про те, які обмеження зʼявляться в API вже в наступних релізах.
Що саме змінилося в підході лабораторій?
Провідні розробники моделей вже кілька років мають формальні рамки для оцінки катастрофічних ризиків: Anthropic — Responsible Scaling Policy з рівнями ASL, OpenAI — Preparedness Framework з категоріями ризику «low/medium/high/critical», Google DeepMind — Frontier Safety Framework. Біологічна зброя в усіх трьох документах фігурує як одна з найвищих категорій ризику поряд із хімічною та ядерною. Посилення тестування, про яке пише Techmeme, означає не появу нової політики, а перехід від декларативних рамок до практичного, регулярного прогону моделей через набори біоризикових оцінок перед кожним великим релізом.
На практиці це означає більше циклів red-teaming за участю зовнішніх експертів — вірусологів, біохіміків, фахівців з біобезпеки, — які перевіряють, чи не дає модель практично корисну підказку для створення небезпечного біологічного агента понад те, що людина й так знайде у відкритій науковій літературі.
Чому біоризики тестувати складніше, ніж кіберзагрози?
Кіберзагрозу можна відтворити в ізольованій пісочниці: дати моделі ціль, дозволити спробувати експлойт, зафіксувати результат. Це вимірний, повторюваний тест. З біологічною зброєю таку перевірку провести неможливо з очевидних причин — ніхто не ставитиме реальний експеримент, щоб дізнатися, чи спрацювала підказка моделі.
Тому лабораторії покладаються на непрямі методи:
- експертні оцінки відповідей моделі фахівцями з біобезпеки, які порівнюють їх із тим, що доступно у відкритих наукових публікаціях;
- проксі-задачі — тести на суміжні навички (наприклад, планування лабораторного протоколу), які корелюють із потенційно небезпечними, але самі по собі нешкідливі;
- класифікацію запитів за темами (синтез патогенів, обхід біобезпекових протоколів) і перевірку, чи модель відмовляється або дає розмиту відповідь.
Жоден із цих методів не дає стовідсоткової впевненості — на відміну від кіберпісочниці, тут немає «золотого стандарту» перевірки.
Що це означає для розробників і компаній, які будують на цих моделях?
За нашою оцінкою (ймовірно, хоча Techmeme прямо про це не пише), посилення біотестування найшвидше проявиться не в публічних заявах, а в поведінці моделей: жорсткіші відмови на запити з хімії й молекулярної біології, повільніший rollout нових можливостей у сферах life sciences, можливо — окремі рівні доступу для верифікованих дослідницьких організацій.
Для продуктових команд у фармацевтиці, синтетичній біології чи агротехнологіях це означає: варто закладати в план розробки те, що частина API-викликів, повʼязаних із хімією та біологією, найближчим часом може повертати відмову навіть за легітимних use-case, і що доведеться проходити додаткову верифікацію, якщо продукт близький до цієї теми.
Висновок AiiN
Наша теза: посилення біотестування — це перший явний сигнал того, що безпекові рамки топ-лабораторій перестають бути маркетинговим документом і починають реально впливати на те, які можливості моделі отримують у релізі. Кібербезпеку можна перевірити автоматизовано й дешево, тому вона довго була головним публічним прикладом «responsible AI». Біоризики змушують лабораторії будувати повільніші, дорожчі й менш прозорі процеси оцінки — а це означає, що надалі розрив між можливостями «внутрішньої» версії моделі та тим, що дістається публічному API, ймовірно зростатиме.
Що таке CBRN-ризики в контексті ШІ?
CBRN — абревіатура для хімічних, біологічних, радіологічних та ядерних загроз (chemical, biological, radiological, nuclear). У політиках безпеки Anthropic, OpenAI та Google DeepMind це окрема категорія катастрофічних ризиків, яку лабораторії оцінюють перед кожним великим релізом моделі.
Чи вплине посилене тестування на звичайних користувачів Claude, ChatGPT чи Gemini?
Прямо — навряд чи. Абсолютна більшість запитів не стосується біологічної тематики. Але користувачі в науці, освіті чи фармацевтиці можуть частіше стикатися з відмовами на легітимні запити з хімії та молекулярної біології, оскільки моделі стають обережнішими саме в цій зоні.
Як лабораторії перевіряють біоризики, якщо не можна ставити реальні експерименти?
Вони покладаються на експертні панелі з біобезпеки, проксі-задачі на суміжні навички та порівняння відповідей моделі з відкритою науковою літературою — тобто на непрямі методи оцінки, а не на відтворення реальної загрози.