Наукове відкриття давно вважалося монополією людини — інтуїція, роки спостережень, сміливі гіпотези, підтверджені досвідом. З появою великих мовних моделей і AutoML-пайплайнів ця монополія почала тріщати. ШІ вже знаходить нові молекули, передбачає структуру білків, генерує математичні гіпотези. Але нова робота на arXiv кидає виклик надмірному оптимізму: є цілий клас задач відкриття, де складність навчання зростає настільки стрімко, що жоден відомий алгоритм не здатний її подолати за розумний час.

Йдеться про PAC-навчання композиційних функціональних дерев — формальну модель того, як системи ШІ навчаються відкривати приховані структурні залежності у даних. І ця модель показує: проблема глибша, ніж нестача даних або обчислювальної потужності. Це питання фундаментальної обчислюваності.

Що таке PAC-навчання і чому воно важливе

PAC (Probably Approximately Correct) — теоретична рамка, запропонована Леслі Вєліентом ще у 1984 році, яка досі лишається основою для розуміння меж машинного навчання. Алгоритм вважається PAC-ефективним, якщо він з великою ймовірністю знаходить «приблизно правильну» функцію за поліноміальну кількість прикладів і поліноміальний час. Ця рамка не про точність у відсотках — вона про принципову можливість навчання взагалі.

Композиційні функціональні дерева — це ієрархічні структури, де складна функція розкладається на дерево простіших підфункцій. Саме так влаштована більшість природних законів: рівняння фізики, ланцюги хімічних реакцій, біологічні регуляторні мережі. Їхня сила — у вкладеності та рекурсивності, але саме ці властивості стають джерелом проблем при навчанні. За даними arXiv, дослідники формально описали клас таких дерев і проаналізували умови, за яких PAC-навчання залишається обчислювально можливим. Результат неоднозначний: при певних параметрах складність вибухає, і навіть найкращий відомий алгоритм потребує експоненційного часу або вибірки нереального розміру.

Де саме ховається складність

Ключова інтуїція: коли глибина дерева і кількість можливих підфункцій зростають, простір гіпотез розширюється надекспоненційно. Це не абстрактна теорема — це пряме пояснення, чому сучасні AI-системи для наукового відкриття зупиняються на певній стелі ефективності, навіть коли їх годують терабайтами даних.

Конкретні чинники, що збільшують складність:

• Глибина дерева — кожен додатковий рівень ієрархії множить кількість можливих структур на порядки.
• Арність вузлів — скільки дочірніх підфункцій може мати кожен вузол дерева; вища арність = ширший простір пошуку.
• Аліасинг підфункцій — коли та сама підфункція з'являється в кількох вузлах, ідентифікація структури стає суттєво складнішою, навіть при достатній кількості даних.
• Шум у спостереженнях — реальні наукові дані завжди зашумлені, і PAC-гарантії в таких умовах потребують набагато більших вибірок.

Для практиків це означає: якщо ваш датасет містить глибоко вкладені нелінійні залежності, жодна кількість GPU не компенсує фундаментальну обчислювальну межу. Масштаб не вирішить задачу, якщо вона принципово важка в PAC-сенсі.

Що це означає для AI-білдерів

Якщо ви будуєте системи автоматичного відкриття закономірностей — у фінансах, біоінформатиці, матеріалознавстві чи енергетиці — ця стаття дає кілька конкретних сигналів для архітектурних рішень:

• Обирайте правильний клас задач. Не кожна задача відкриття має структуру глибокого функціонального дерева. Якщо дані лінійно або поліноміально роздільні — PAC-ефективні методи спрацьовують. Глибока вкладена нелінійність без доменних обмежень — це червоний прапор.
• Вводьте структурні обмеження як apriori. Замість пошуку по всьому просторі гіпотез, обмежте максимальну глибину дерева або множину допустимих підфункцій на основі доменного знання. Це знижує складність до керованого рівня і робить задачу PAC-розв'язуваною.
• Не покладайтеся на нейросимвольні системи наосліп. Сучасні підходи — LLM плюс символьний резонер — часто обходять теоретичні межі на практиці, але без формальних гарантій. Для продуктового прототипу це прийнятно; для наукової достовірності результатів — суттєвий ризик.
• Інвестуйте в якість даних, а не лише кількість. За PAC-рамкою, зменшення шуму у вибірці нерідко ефективніше, ніж просте збільшення її розміру.

Окремо: стаття пропонує конструктивні алгоритми для обмежених класів дерев, які досягають PAC-ефективності. Це потенційний теоретичний базис для наступного покоління бібліотек символьної регресії — тих, що матимуть формальні гарантії, а не лише емпіричні результати.

Висновок AiiN

Ця робота — не вирок для ШІ у науці. Навпаки: вона вказує точно, де проходить межа, і це значно цінніше за розмиті заяви про «обмеження штучного інтелекту». Знати, де алгоритм принципово не впорається — означає знати, де необхідна людська інтуїція, де потрібне нове математичне мислення, а де масштабування дійсно дасть результат.

Для індустрії це сигнал: інвестувати не лише у масштаб — більше даних, більше параметрів, більше обчислень — а й у фундаментальну теорію навчання. Команди, які розуміють PAC-межі своїх задач, будуватимуть системи з передбачуваною поведінкою замість чорних ящиків, що «іноді працюють». Розуміння меж — це не перешкода. Це компас.