У серпні 2026 року на arXiv з'явилася стаття ConVAWG: A Retrieval-Grounded Framework for Controlled Synthetic Dialogue Generation (arXiv:2608.11200) — опис методу, який генерує штучні, але реалістичні діалоги для тренування AI-систем розпізнавати онлайн-насильство над жінками й дівчатами (VAWG, violence against women and girls).

Проблема, яку намагаються вирішити автори, звучить просто: щоб навчити класифікатор відрізняти образливе повідомлення від нейтрального, потрібні тисячі розмічених прикладів реальної токсичної комунікації. Але зібрати такий датасет легально й етично майже неможливо — реальні жертви рідко погоджуються ділитися перепискою, платформи не видають приватні чати дослідникам, а модератори, які вручну розмічають подібний контент, регулярно фіксують психологічне вигорання від постійного контакту з насильницькими текстами.

ConVAWG пропонує обхідний шлях: генерувати синтетичні діалоги, які зберігають структурні патерни реального насильства — ескалацію, маніпуляцію, погрози, — але не є копіями чиєїсь реальної переписки. Ключове слово тут — «контрольовану»: автори не просто просять велику мовну модель «вигадати образливий діалог», а прив'язують генерацію до retrieval-компонента, який підтягує релевантні референсні патерни ще до того, як модель напише репліку. Саме ця прив'язка до пошуку — джерело назви фреймворку.

Чому детекторам онлайн-насильства й досі бракує якісних даних?

Дефіцит даних тут — не про брак текстів у принципі, а про брак придатних для навчання прикладів. У реальних логах повідомлень токсична комунікація трапляється рідко порівняно з нейтральною — це класичний дисбаланс класів, який змушує модель ігнорувати рідкісні, але критичні патерни. До того ж насильство над жінками охоплює десятки тактик: погрози, примусовий контроль, сталкінг, доксинг, сексуальний шантаж — і кожна вимагає окремих розмічених прикладів, яких у відкритому доступі майже немає.

Як саме працює retrieval-grounded генерація в ConVAWG?

Схема двоетапна. Спочатку система приймає контрольні параметри — тип насильства, стадію ескалації, стосунки між співрозмовниками — і за ними шукає в базі релевантні референсні патерни: типології тактик, анонімізовані описи випадків, дослідницькі класифікації. Потім мовна модель генерує багатоходовий діалог, спираючись саме на ці витягнуті фрагменти, а не на вільну фантазію. Retrieval-компонент тут працює як якір: він не дає моделі «розфантазуватися» до нереалістичних або фізично неможливих сценаріїв і водночас гарантує, що розподіл рідкісних категорій у датасеті можна вирівняти вручну — просто задавши потрібні контрольні параметри.

За даними arXiv, саме контроль над розподілом категорій — головна практична перевага такого підходу над «сирим» промптингом великої мовної моделі: розробник задає, скільки прикладів потрібно на кожен тип тактики, і отримує збалансований, а не випадковий набір.

Кому й навіщо це знадобиться вже зараз?

Найпряміший бенефіціар — команди trust & safety на платформах зі значним обсягом приватного спілкування: месенджери, застосунки знайомств, соціальні мережі, AI-компаньйони. Їм потрібні класифікатори, які ловлять не лише очевидну лайку, а й тонші форми контролю та маніпуляції — а для цього потрібні саме розмічені приклади рідкісних тактик, яких бракує в органічних логах.

Але синтетика — не заміна валідації на реальних даних. Модель, натренована виключно на штучних діалогах, ризикує вивчити стиль генератора, а не мову реальних кривдників, тому розробникам варто тримати невелику, ретельно анонімізовану вибірку реальних прикладів як holdout-тест і регулярно перевіряти на ній метрики, а не довіряти лише синтетичному валідаційному сету.

Що з цього має винести AI-білдер: висновок AiiN

Наша теза: у чутливих доменах — насильство, самоушкодження, радикалізація — вузьким місцем стає вже не архітектура генератора, а якість «заземлювального» корпусу, з якого retrieval бере референсні патерни. Хто контролює й курує цей корпус — типології тактик, джерела, критерії достовірності — той фактично контролює якість майбутнього класифікатора, а сама генеративна модель стає замінним компонентом. Для команд, що будують модерацію у 2026 році, це означає: інвестувати варто не стільки у fine-tuning генератора, скільки в побудову й верифікацію бібліотеки референсних патернів насильства, з якою retrieval працюватиме роками.

Чим ConVAWG відрізняється від звичайного промптингу LLM на генерацію токсичних діалогів?

Головна різниця — прив'язка до retrieval-компонента: замість вільної генерації модель спирається на витягнуті референсні патерни, що знижує ризик нереалістичних або галюцинованих сценаріїв і дає точний контроль над розподілом категорій у фінальному датасеті.

Чи можна застосувати такий підхід за межами теми насильства над жінками?

Технічно так — retrieval-grounded генерація застосовна до будь-якого чутливого домену з дефіцитом даних: цькування, мова ворожнечі, самоушкодження, радикалізація. Змінюється лише заземлювальний корпус референсних патернів, а не архітектура методу.

Чи можна повністю замінити реальні дані синтетичними?

Ні. Практика галузі — гібридна: синтетика закриває дисбаланс класів і рідкісні категорії, а невелика, ретельно анонімізована вибірка реальних прикладів лишається обов'язковим holdout-тестом для перевірки, що модель узагальнює на реальну мову, а не на стиль генератора.