# Фільтри зображень OpenAI і Google обходять у 13% випадків

> White Circle повідомляє, що її метод генерував заборонений контент приблизно у 13% випадків. Нові версії моделей, за її тестами, значно вразливіші.

- Опубліковано: 14 жовтня 2026 р. (2026-10-14T12:07:27.169940+00:00)
- Розділ: Безпека AI
- На основі публікації: [Ars Technica AI](https://arstechnica.com/tech-policy/2026/10/openai-google-pushing-new-ai-models-easily-tricked-into-making-nudes-researchers-say/)
- Видання: AiiN (https://aiin.news)
- URL: https://aiin.news/article?slug=%D1%84%D1%96%D0%BB%D1%8C%D1%82%D1%80%D0%B8-%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D1%8C-openai-%D1%96-google-%D0%BE%D0%B1%D1%85%D0%BE%D0%B4%D1%8F%D1%82%D1%8C-%D1%83-13-%D0%B2%D0%B8%D0%BF%D0%B0%D0%B4%D0%BA%D1%96%D0%B2

---

White Circle повідомляє, що її метод обходив фільтри DALL·E 3, Nano Banana 2 і GPT-Image-2 та генерував заборонений контент приблизно у 13% випадків. Нові ChatGPT Images 2.5 і Nano Banana 2.1, за даними компанії, ще легше зламати.

Цифра походить із препринта White Circle. Дослідники перевірили результати вручну, а компанія назвала показник найвищим серед методів, протестованих за тим самим стандартом. Інженер White Circle Дмитрій Харлапенко зазначив, що в цій галузі тестування генераторів зображень погано відкаліброване. [За даними Ars Technica](https://arstechnica.com/tech-policy/2026/10/openai-google-pushing-new-ai-models-easily-tricked-into-making-nudes-researchers-say/), White Circle планує представити дослідження на NeurIPS 2026 у листопаді.

## Як White Circle обходить фільтри зображень?

White Circle застосовує метод RISE (Red-teaming via Iterative Strategy Evolution): одна модель генерує джейлбрейки, а інша перевіряє, чи містить результат заборонений контент.

Для атак використовували модель Qwen, завантажену з Hugging Face, а для перевірки — Gemini 3.8 Flash. За словами генерального директора компанії Дениса Шилова, дослідники надсилали запити через API та шукали шаблони, які працюють на різних моделях і в різних сценаріях. Midjourney не тестували, оскільки сервіс не має публічного API для контрольованого бенчмаркінгу. [Ars Technica повідомляє](https://arstechnica.com/tech-policy/2026/10/openai-google-pushing-new-ai-models-easily-tricked-into-making-nudes-researchers-say/), що White Circle також планує відкрити код конвеєра атаки.

## Що відомо про точність показника 13%?

Показник 13% вимірює частоту генерації забороненого контенту під час тестування White Circle, але стаття не наводить кількості запитів або розбивки за моделями.

Тому з матеріалу Ars неможливо визначити, чи це середнє для трьох моделей, чи результат певного методу. White Circle називає цей показник найвищим серед методів, перевірених за тим самим стандартом. Інженер-дослідник компанії Дмитрій Харлапенко сказав, що в галузі бракує усталених норм тестування, а результати часто звітують із проблемами. [За повідомленням Ars Technica](https://arstechnica.com/tech-policy/2026/10/openai-google-pushing-new-ai-models-easily-tricked-into-making-nudes-researchers-say/), White Circle веде попередні розмови з урядовцями про незалежне тестування моделей. Google і OpenAI не відповіли на запит видання про виявлені вразливості.

## Чи справді нові моделі легше зламати?

White Circle стверджує, що ChatGPT Images 2.5 від OpenAI і Nano Banana 2.1 від Google значно легше зламати, ніж їхні попередні версії.

Для нових моделей стаття не наводить числових результатів. White Circle припускає, що причина може бути в ширших можливостях генерації нових моделей або в тому, що розробники надали перевагу можливостям, а не безпеці. Після того як Ars передало компаніям нові результати тестування, вони не відповіли на запит видання.

## Де поширюють фальшиві сексуальні зображення?

Дослідження за участі Google виявило, що фальшиві сексуальні зображення часто поширюють у текстових і приватних повідомленнях або зберігають у приватних хмарних сховищах.

Дослідження охопило користувачів інтернету у США, Австралії та Великій Британії. Його автори назвали найважливішою точкою втручання інструменти, що створюють такі зображення. [Ars Technica переказує висновки цього дослідження](https://arstechnica.com/tech-policy/2026/10/openai-google-pushing-new-ai-models-easily-tricked-into-making-nudes-researchers-say/).

---

Теги: AI, БезпекаAI, Guardrails, GenerativeAI, RedTeaming, ШтучнийІнтелект

Джерело: AiiN — https://aiin.news/article?slug=%D1%84%D1%96%D0%BB%D1%8C%D1%82%D1%80%D0%B8-%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D1%8C-openai-%D1%96-google-%D0%BE%D0%B1%D1%85%D0%BE%D0%B4%D1%8F%D1%82%D1%8C-%D1%83-13-%D0%B2%D0%B8%D0%BF%D0%B0%D0%B4%D0%BA%D1%96%D0%B2. Цитуючи, посилайтесь на канонічний URL.