Коли дослідники говорять про масштабування тестового часу, більшість одразу думає про великі мовні моделі на кшталт GPT або Claude. Але тиха революція відбувається в іншому куті AI-ландшафту: маскові дифузійні моделі вчаться видавати якісніший результат без жодного перенавчання — просто за рахунок розумнішого інференсу.
За даними arXiv, новий метод під назвою VGB (Variational Guided Backward) для маскових дифузійних моделей показує, що можна суттєво підняти якість генерації та навіть редагувати вже згенеровані зразки — і все це під час інференсу, а не навчання. Для AI-білдерів, які будують продукти на базі генеративних моделей, це важливий технічний сигнал.
Що таке маскова дифузія і чому вона дедалі актуальніша
Класичні дифузійні моделі — Stable Diffusion, Flux, DALL-E — працюють у безперервному просторі: вони поступово «зашумлюють» зображення й вчаться прибирати шум. Маскові дифузійні моделі (Masked Diffusion Models, MDM) застосовують аналогічну логіку до дискретних даних: токенів тексту, молекулярних послідовностей або рядків коду. Замість шуму — маскування: модель приховує частину токенів і вчиться відновлювати їх із контексту.
Цей підхід відкриває можливості там, де безперервна дифузія незручна або непридатна. Серед ключових сфер застосування:
- генерація та редагування тексту з урахуванням двонаправленого контексту
- проєктування білкових послідовностей у біоінформатиці
- розробка молекул для фармацевтичних досліджень
- контрольоване доповнення коду зі структурними обмеженнями
MDM-моделі приваблюють дослідників як альтернативу авторегресивним LLM — не для заміни, а для задач, де важлива одночасна обізнаність про весь контекст, а не лише про попередні токени.
Що пропонує метод VGB
VGB — це техніка спрямованої вибірки для зворотного процесу маскових дифузійних моделей. Ідея полягає в тому, щоб під час генерації спрямовувати вибірку до зразків, які краще задовольняють цільову функцію винагороди (reward function), без зміни ваг самої моделі.
На відміну від методів RLHF або DPO, які потребують окремого циклу донавчання з розміченими даними та значними обчислювальними ресурсами, VGB працює безпосередньо під час інференсу:
- варіаційна апроксимація зворотного процесу враховує градієнти функції винагороди в кожному кроці генерації
- метод ефективно обчислює ці градієнти навіть у дискретному токенному просторі, де стандартне диференціювання не застосовується напряму
- підтримується як генерація з нуля, так і редагування існуючих зразків під нові вимоги
Ключова перевага — гнучкість: один механізм закриває і задачу покращення нових генерацій, і задачу точкового коригування вже отриманих результатів без повторного запуску пайплайну.
Практичне значення для AI-білдерів
Для команд, що будують реальні продукти на базі генеративних моделей, метод VGB торкається кількох актуальних питань.
Test-time compute як нова вісь оптимізації. Після успіху «мислячих» LLM (o1, DeepSeek R1) ринок переконався: більше обчислень під час інференсу = кращий результат. VGB переносить цю логіку на дифузійні моделі дискретних даних. У білдерів з'являється нова ручка налаштування: витратити більше GPU-часу на вибірку — і отримати вищу якість без жодного перенавчання.
Редагування зразків як функціональність продукту. Можливість брати вже згенерований текст або послідовність і коригувати його під нові обмеження — суттєво для продуктів з ітеративним воркфлоу. Замість кнопки «Згенерувати знову» — точкове редагування під нову умову. Це скорочує час генерації й покращує користувацький досвід.
Контроль без тонкого налаштування. Для команд без бюджету на повноцінне RLHF-навчання підхід guide-at-inference відкриває шлях до контрольованої генерації за значно менших витрат. Достатньо визначити функцію винагороди — і модель сама адаптує вибірку під неї.
Де це застосовується вже сьогодні:
- Drug discovery: оптимізація молекулярних структур під бажані хімічні властивості
- Protein design: генерація послідовностей із контролем функціональних параметрів
- Controlled text generation: дотримання стилістичних, тональних або структурних обмежень
Висновок AiiN
VGB — черговий доказ того, що масштабування тестового часу більше не є привілеєм лише авторегресивних моделей. Маскова дифузія дозріває до виробничого використання, і методи на кшталт VGB роблять її практично привабливішою: менше залежності від коштовного донавчання, більше гнучкості під час інференсу.
Для AI-білдера практичне питання просте: якщо ваш продукт генерує дискретні послідовності — текст, код, молекули — слідкуйте за MDM-екосистемою. Не тому, що вона замінить LLM, а тому, що для певних задач вона вже пропонує кращий компроміс між якістю, контролем і вартістю. VGB додає до цього рівняння ще один важливий компонент: керованість без компромісів на етапі навчання.