Стрибок, якого не вміє ШІ

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Стаття написана за мотивами дослідження Тома Захаві, провідного дослідника і керівника в Google DeepMind.

В цій статті я намагаюся зрозуміти, які саме обмеження сучасного ШІ ставить Захаві та як ми можемо їх обійти.

www.tomzahavy.com/files/llms-cant-jump.pdf

Кілька днів тому мій колега прислав мені посилання на статтю «LLMs can’t jump» і, чесно кажучи, давно текст не змушував мене досить довго думати, розглядати різні сценарії, шукати варіанти.
Причина проста. Ми, ті, хто щодня будує пайплайни, тюнить моделі, ганяє RAG і рахує метрики, звикли міряти прогрес бенчмарками. Модель складає IMO (International Mathematical Olympiad) на золото. Модель пише продакшн-код. Модель доводить теореми. І звідси легко зробити очевидний прогноз: якщо графік іде вгору достатньо довго, десь там нагорі буде проривна сучасна наука.

Захаві бере цей крок і показує, що між «розв’язати задачу» і «винайти теорію» лежить розрив, якого жоден із наших графіків не досягає. Причому показує це не абстрактно, а на конкретному кейсі: чи змогла б сучасна LLM, маючи всі знання, доступні Айнштайну 1915 року, винайти ЗВТ (загальну теорію відносності)?

Його відповідь — ні: сучасний АІ не здатен винайти ЗВТ. І аргумент значно цікавіший за відповідь.

Три типи висновку, і чому це важливо для нас

Захаві спирається на класифікацію Чарльза Пірса.
Є три сутності: Rule (визначення функції), Case (вхідні дані), Result (те, що функція повернула). Три типи висновку — це три способи їх переставити.

  • Дедукція: Rule + Case -> Result. Ти маєш функцію і вхід, обчислюєш вихід. Єдиний режим, що гарантує істину. Запустив код — отримав результат.
  • Індукція: Case + Result -> Rule. Ти маєш пари «вхід-вихід» і відновлюєш функцію. Це рівно те, що робить машинне навчання: підганяєш правило під статистику спостережень. Написати функцію, яка проходить юніт-тести.
  • Абдукція: Rule + Result -> Case. Ти бачиш дивний результат і вигадуєш причину, яка його пояснює. Це висновок до найкращого пояснення. Не гарантує істини, не спирається на частотність — це креативний стрибок, який вигадує причину для одиничного явища. Створює нову гіпотезу, яка пояснює побачене.

Теза Захаві: генеративний ШІ опанував індукцію (це буквально визначення градієнтного спуску по даних), швидко опановує дедукцію (AlphaProof, Lean, mathlib, формальна верифікація), але структурно не здатний до абдукції.

І саме абдукція, за Айнштайном, і є місцем, де народжується наука.

Діаграма E-J-A

У листі до Моріса Соловіна Айнштайн намалював схему наукового відкриття. Внизу — чуттєвий досвід (E). Угорі — система аксіом (A). Між ними — крива стрілка, стрибок (J). А вже від аксіом униз ідуть дедуковані теореми, які треба перевіряти експериментом.

LLMs can't jump

Ключове: стрілка від E до A не є логічним переходом. Аксіоми не виводяться з досвіду — ні індуктивно, ні дедуктивно. Дедуктивно їх вивести неможливо за визначенням: вони самі є посилками. Індуктивно — теоретично можна, але саме тут Захаві завдає головного удару.

Удар перший: не було сигналу помилки

У ML-спільноті домінує уявлення, яке найчіткіше сформулював Шмідхубер: творчість — це стиснення. Відкриття — це пошук коротшої програми, яка пояснює спостереження. Радість відкриття — це швидкість, з якою складне стає простим.

Захаві розбирає цю тезу на історичному матеріалі, і аргумент виходить дуже сильним.
На момент, коли Айнштайн починав, ньютонівська гравітація не була в кризі. Більше того, ми прямо зараз користуємося механікою Ньютона для опису світу, що навколо нас.

Єдина відома аномалія — зміщення перигелію Меркурія. І що робила наука? Не сумнівалася в Ньютоні, а припускала існування невідкритої планети «Вулкан», яка ховається біля Сонця.
А тепер уявіть на місці Айнштайна сучасний ШІ. Він дивиться на дані. Loss близький до нуля. Градієнта немає. Немає жодного сигналу, який штовхнув би систему до фундаментальної перебудови уявлень про простір і час. Раціональна дія оптимізатора — не винаходити неевклідову геометрію, а додати ще один параметр: гіпотетичну планету.
Більше того — дані, які підтвердили ЗТВ, з’явилися після теорії. Експедиція Еддінгтона з викривленням світла — 1919 рік. Айнштайн не стискав шумний датасет і не шукав патернів у поведінці, яку спостерігав навколо себе. Він конструював структуру, якої в даних ще не було видно. І, найдивовижніше для мене, він це все зробив, сидячи в кабінеті із блокнотом і ручкою, без лабораторії чи дослідів, лише на голій математиці та уяві.

Це, як на мене, найцінніша частина статті. Вона працює незалежно від решти і б’є не по конкретній моделі, а по цілій родині теорій про природу креативності.

Удар другий: логіка приходить другою

Далі Захаві робить те, що викликає повагу: він максимально поступається опоненту.

Він прямо визнає — сучасна модель, отримавши на вхід готові припущення Айнштайна, найімовірніше, вивела б рівняння самостійно. Більше того, вона, ймовірно, впоралася б швидше за самого Айнштайна.

Історія тут майже анекдотична. У 1913-му математик Марсель Гроссман уже тримав у руках правильну відповідь — і відкинув її через одну хибну технічну перевірку. На пошук цієї помилки пішло два роки. А систематичний перебір припущень — рівно те, у чому машини сильні.

Стрибок

Що ж тоді сталося в голові Айнштайна?
Він називав це найщасливішою думкою свого життя. Людина, яка вільно падає з даху, не відчуває гравітації. З її погляду вона просто нерухома. Звідси й народився принцип еквівалентності: прискорення і тяжіння локально нерозрізненні.

Захаві називає цей механізм маніпулятивною абдукцією — породженням гіпотези через уявну дію. Не «подумати про», а «спробувати всередині себе».
Найпростіший приклад — Архімед. Задача про корону не розв’язувалася обчисленням. Розв’язок прийшов у ванні, через фізичне відчуття витісненої води. Це відчуття не виводилося із жодної тогочасної теорії — воно створило нове поняття.

Айнштайн зробив те саме, тільки відчуття було уявним. Він помістив себе в ліфт, що прискорюється в глибокому космосі. Відпускаєш предмети — підлога летить їм назустріч. Усі падають однаково, з чого б не були зроблені. Це не перестановка формул. Це робота з відчуттям.
Звідси й головний закид. LLM, за Захаві, працюють як «китайська кімната»: жонглюють словами фізики, не маючи доступу до того, про що ці слова.

Надії на кращі промпти автор відкидає одразу. Вони допомагають краще ходити всередині наявного простору понять, але не виводять за його межі. А стрибок — це саме поява поняття, якого раніше не існувало.

Що він пропонує натомість: моделі світу, якими можна керувати. І робить тут гарне розрізнення. Відеогенератори на кшталт Veo показують правдоподібну фізику випадково — яблуко падає не тому, що модель розуміє гравітацію, а тому що в навчальних відео воно завжди падало. А Genie додає дії: агент може втрутитися. Щоб повторити думку Айнштайна, недостатньо подивитися відео ліфта. Треба мати змогу перерізати трос.

Як це можна долати

Захаві в своїй статті не дає рецептів того, як примусити АІ «стрибати» (бо хто не скаче, той москаль), він лише окреслює рамку, в якій ми зараз знаходимося.
Отож, я хочу запропонувати декілька способів, якими, теоретично, ми можемо «перестрибнути» обмеження.

1. Керовані галюцинації — але на рівні аксіом, а не токенів

Перше, що спадає на думку: якщо бракує здатності вийти за рамки — треба свідомо вводити варіативність.

Але тут важливо не сплутати це з температурою генерації. Температура — це стохастичність (випадковість) у просторі токенів. Вона переважує наявний розподіл, залишаючись на тому самому многовиді. Ти отримуєш інше формулювання тієї самої думки, а не іншу думку.
Те, що потрібно для абдукції, — це стохастичність у просторі гіпотез. Не «скажи це інакше», а «припусти, що одна з думок хибна, і подивись, що з цього вийде».

Механізм цілком конкретний. Береш формалізовану теорію. Систематично заперечуєш, послаблюєш або замінюєш одну аксіому. Перевіряєш у Lean-подібному середовищі, чи залишається система несуперечливою. Дивишся, які передбачення змінилися. Це керована галюцинація на рівні ідей, а не на рівні виводу.

І тут є прекрасний історичний доказ, що воно працює. Неевклідова геометрія народилася рівно так: Лобачевський та Янош Больяї заперечили п’ятий постулат Евкліда і подивилися, чи не розвалиться система. Вона не розвалилася. А через сімдесят років саме ця математика виявилася тим, чого потребував Айнштайн.
Тобто інгредієнт для стрибка був отриманий без жодної тілесності — чистим маніпулюванням аксіомами. Це прямий контрприклад до основної тези Захаві.

Чесна проблема в такому підході: комбінаторний вибух. Кількість способів зіпсувати теорію нескінченна, а корисних серед них одиниці. І тут стає видно, що справжнє вузьке місце — не генерація.

2. Досвід для ШІ: не фізичний, а наслідковий

Друга ідея, як на мене, глибша за першу.
Захаві неявно припускає, що заземлення = фізичне заземлення. Але якщо подумати, чому саме фізичний контакт заземлює символи, то річ не в атомах. Річ у тому, що фізичний світ — це канал, через який світ може тобі суперечити незалежно від того, що ти про нього думаєш.

А тоді питання не в модальності каналу, а в його властивостях. Я б виділив чотири:

  1. Незалежність — джерело сигналу не є твоєю ж генерацією
  2. Здатність здивувати — результат може розійтися з передбаченням
  3. Наслідковість — твоя дія змінює те, що буде далі
  4. Незворотність — назад не відкотиш, за помилку є ціна

Тепер подивіться: у сучасних системах такі канали вже є, просто вони не фізичні. Компілятор, який не цікавиться твоєю впевненістю. Тестовий набір, що падає. Чисельна симуляція, результат якої ти не знав наперед. Продакшн-телеметрія. Ринок, який рухається проти твого прогнозу.

І так — аналіз масиву чисел цілком може бути досвідом для ШІ. За однієї умови: модель не знає відповіді наперед, а результат може впливати на систему. Якщо після обчислення система не змінилася — це не досвід, це обчислення.
В цей момент я б хотів дати визначення досвіду, так як вважаю це наріжним каменем цього аргументу. Досвід — це подія, яка змінює того, з ким сталася, у спосіб, що впливає на його подальші дії, і яку не можна замінити описом цієї події.
Просто записати дані в пам’ять — це не досвід, оскільки наявність чи відсутність файлу з даними в пам’яті не змінює систему.

Різниця між людським і машинним досвідом, отже, не в тому, що один справжній, а інший ні. Вона в онтології каналу. Для людини майже кожен досвід проходить через тіло, бо іншого інтерфейсу еволюція не видала. Для ШІ інтерфейс може бути числовим, символьним, мережевим. Це не гірше — це просто інший субстрат тієї самої функції.

Зауважу, що це фактично узагальнення вимоги самого Захаві. Він каже: агент має вміти перерізати трос у симуляції.
Я кажу: трос не зобов’язаний бути фізичним, але має мати вплив.

3. Пошук неузгодженості

Головна проблема, яку ставить стаття, — не було від чого відштовхуватися. Механізм навчання потребує помилки: система бачить розбіжність між передбаченням і фактом і рухається в бік її зменшення. У випадку Ньютона розбіжності не було. Рухатись немає куди, теорія вже сходиться з даними і чудово працює.

Але Захаві сам показує вихід і не помічає цього. Мотивацією Айнштайна була не аномалія в даних, а суперечність між двома теоріями: постійна швидкість світла в рівняннях Максвелла несумісна з абсолютним часом Ньютона.

А детекція суперечностей між формальними теоріями — це задача, яка автоматизується. Це майже буквально статичний аналіз, тільки над корпусом наукового знання. Не «де дані розходяться з передбаченням», а «де дві добре підтверджені теорії не можуть бути істинними одночасно».

Практичний наслідок: замість оптимізації метрик усередині однієї парадигми будувати системи, які шукають місця стику несумісних формалізмів. Це дає сигнал там, де емпіричного сигналу немає за визначенням.
І хороша новина в тому, що ми прямо вже можемо це робити з наявним інструментарієм.

---------------------------------------------------------------------------------------------------------

Стаття вийшла суттєво довшою, ніж планував. В другій частині я планую описати, чому, на мою думку, базуючись на всьому вищеописаному, сучасні АІ-системи на базі LLM не мають свідомості в людському сенсі цього слова та коли це може змінитися.

👍ПодобаєтьсяСподобалось24
До обраногоВ обраному12
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

В процесі роботи над наступною статтею, я з’ясував (ха-ха, як неочікувано), що питання, які б я хотів висвітлити на обговорити, є куди ширшими та об’ємнішими ніж це виявлялося спочатку, та вимагають обговорення не тільки з точки зору технологій, а ще й математики, філософії та нейронауки.

Тому поки в процесі дослідження, це займе дещо більше часу ніж планувалося.

Спробуй попросити у нього використати Теорію вирішення винахідницьких завдань. Повинна допомогти у конструюванні винаходу. Дуже цікаво міркувати починає.

Мені здається в значній мірі справа у недостатній кількості експериментальних даних і малому розмірі тренувального датасету. Візьмемо те, з чим АІ може впоратися добре: генерація тексту та зображень. Для цього були використані мільярди текстів та зображень, щоб АІ натренувався, знайшов паттерни і зміг генерувати щось псевдо-реалістичне. А якщо подивитися на кількість фізичних, хімічних, біологічних і т.д. експериментів, які проводилися і завантажувалися в АІ для тренування, то якою буде ця кількість? Десятки тисяч, сотні тисяч? Це навіть не 1% від тієї кількості тестових одиниць, які були використані для навчання писати тексти і генерувати зображення.

Тож, на мій погляд, варіантів всього два (причому реалістичний з них лише один):
1) Нереалістичний варіант: збільшити кількість експериментів, які проводяться вченими з усіх фундаментальних наук у мільйон разів, щоб цих даних вистачило для АІ
2) Реалістичний варіант: дійти до тієї стадії науково-технічного прогресу, коли у АІ буде власна армія роботів-вчених, які автономно (без нагляду людини) зможуть на Землі і поза планетою проводити достатню кількість експериментів, щоб АІ міг зібрати достатню кількість даних, які дозволять йому виокремити ті патерни, які ми поки що не помічаємо, або помічаємо, але не можемо зробити з них правильні висновки. «Правильні» в сенсі — ті, що відповідають тому, як реально влаштований цей світ. Умовно кажучи, якщо ми проводимо один певний експеримент 100 разів і 2 рази з цих 100 зустрічається певний результат — це може бути просто співпадіння. Але якщо ми проводимо експеримент 10 000 разів і аномалія зустрічається 200 разів — це ті ж самі 2%, але те, що якась аномальна подія відбудеться 200 разів вже не можна списати на просте співпадіння.

Я сьогодні добрий. Я поїв щойно. Оскільки у темі є й про велике відкриття то ось вам цікавинка: до великих відкриттів ведуть портали. Ті, що типу кротовини, що клубяться так...
Знайти такий важко. Зайти у такий ще важче.
Це не про реальність. Це про інформаційні шторми у процесі намагатися_щось_відкрити.
Ви робите крок уперед, а воно відносить вас на два кроки у зворотньому напрямку.

Поправьте мене, але у Апштейна не було ні Case ні Rule.)) Причину та правило він додумав сам. Як себе веде гравітація, швидкість та час поза Землею ми узнали від Апштейна. Мені здається що і частина Result в умовах земної фізики доступна не була, і вона і зараз суто теоретична. Генії вони такі).

Стаття цікава і навіює на роздуми.
Але цей слід від ШІ — спонукає підозрювати, що це все разом згенеровано

Це, як на мене, найцінніша частина статті. Вона працює незалежно від решти і б’є не по конкретній моделі, а по цілій родині теорій про природу креативності.

В чому саме бачите тут слід ШІ?

Вважаєте, що висловлення свого ставлення до статті-референса, на основі якої я написав цю, це автоматично слід ШІ)?

Питання чи зможе штучний інтелект замінити справжнього творця лежить у фундаментальній відмінності підходів.
ШІ притаманна прагматична статистика. Він орієнтується на максимальну ймовірність та на найбільш правдоподібні очікувані варіанти продовження тексту. Він прагне усереднення, мінімізації відхилень та максимізації передбачуваності.
Натомість творчість за своєю природою малоймовірна — це завжди аномалія та відхилення від норм. З погляду математики та теорії інформації ШІ просто не здатен відрізнити принципово нову геніальну ідею від беззмістовного шуму. Для ШІ обидва ці явища лежать у зоні низької ймовірності за межами його навчального корпусу і однаково сприймаються як помилка або сміття.
Справжня творчість працює як оператор зміни розмірності простору уявлень. Вона створює принципово новий контекст, формує невідомі раніше семантичні зв’язки та розширює сам простір уявлень. Штучний інтелект діє у строго замкненому просторі. Він лише зменшує інформаційну ентропію та невизначеність у вже існуючому просторі уявлень (= системі знань).
Все це ІМХО ))

Засуджую. Як на мене, дурня повна.
— про токени докорінно невірно
— адаптуйте для моделі відповідний ТРВЗ, буде вам абдукція
(IMHO, авторе, без образ 🙏🏻)

Можете розшири думку, чому ви вважаєте, що це дурня і докорінно невірно?

Ну, от наприклад, це твердження хибне і використовує переускладнену термінологію накшталт «многовиду», що тільки розкриває додаткові рівні нерозуміння автором того як працюють взагалі LLM, базової архітектури хоча б в дуже загальних рисах:

Температура — це стохастичність (випадковість) у просторі токенів. Вона переважує наявний розподіл, залишаючись на тому самому многовиді. Ти отримуєш інше формулювання тієї самої думки, а не іншу думку.
Те, що потрібно для абдукції, — це стохастичність у просторі гіпотез.

Погоджусь із тим, що термін Многовид тут не дуже доречний.
Але задача стояла не описати точний механізм генерації зі згадками софтмаксу та логітів це відлякало б широку аудиторію, а не прояснило.
Задача була передати саму ідею: температура змінює, що ймовірніше, а не що взагалі можливе. Різні думки — так. Нові поняття — ні. Це і є теза розділу.

Але ваше нове формулювання теж невірне... в плані, це не тільки проблема формулювання, я про хибність самого твердження.

(Я не читав публікацію Захаві, і чи є там взагалі про температуру, тож не знаю, чий саме це косяк)

Обожнюю людей, з яких слова треба витягувати :)

Кожен ваш комент це безпідставне звинувачення у якихось «косяках», «хибностях», при цьому жодних контраргументів чи пояснень.
Назвіть конкретно, у чому помилка, я готовий її визнати і виправити, якщо вона є.
Без цього обговорювати нічого.

Перепрошую за довгу затримку з відровіддю.

Ти отримуєш інше формулювання тієї самої думки, а не іншу думку.

— Це просто не так. Один токен, згенерований по іншому на будь-якій позиції змінює умову для всіх наступних, і генерація йде іншою гілкою, іноді з іншим висновком, іншим підходом, іншою відповіддю. Це не теорія, на цьому тримається половина сучасної практики.

Ось відразу кілька робіт, котрі яскраво це демонструють:
arxiv.org/abs/2203.11171
arxiv.org/abs/2110.14168
www.nature.com/...​ticles/s41586-023-06924-6 — це буквально «семплити LLM при ненульовій температурі багато разів» + верифікатор
arxiv.org/abs/2506.13131

Захаві, до речі, останню роботу в статті згадує, але як приклад «оптимізації в межах фіксованої рамки». Це окрема дискусія, в яку я не хочу влазити, і я таки незгоден багатьма твердженнями Захаві.

Ваша ж теза була сильніша: що температура принципово не виводить за межі перефразування. Ось саме її ці роботи й спростовують в щент.

Я ці статті знайшов для вас, щоб спробувати пояснити доступно і спираючись на авторитетні джерела те, що мені очевидно з власної практики, в даному випадку по створенню і валідації гіпотез, найближче з публічної діяльності — участь в AI Mathematical Olympiad 2024 на Kaggle.

Загляніть ще сюди: https://share.google/aimode/XG138yx2en8DpPUcb
Тут про те, чи буде корисним використання семантичних інваріантів у твердженнях нативною мовою — наприклад, українською? На думку Gemini
Ходіння по інваріантах у семантичному графі знищує комбінаторний вибух. Все легко обчислюється за допомогою логіки. Лише обери потрібні правила і не порушуй їх у ході обчислень...

Думаю, що ваш приклад про те, про що я писав у коментарі нижче про кристалографію:

Абдукцію можна глобально розділити на два вида:
1. Селективна абдукція — вибір гіпотези з простору, заданого наперед.
2. Креативна абдукція — породження гіпотези, для якої простір доводиться розширювати.
От твій приклад — це в чистому вигляді перше.
Винайдення ЗТВ із прикладу зі статті, це друге.

Якщо ви навмисно або random generate оберете порушення якогось одного правила то з того боку вийдете за рамки обмежень. Тобто зробите геніальний мув.

В наступній частині статті я буду писати про те, чому генерування гіпотез, саме по собі, не є проблемою.
На кожну правильну теорему можна генерувати по мільйону подібних, але хибних, які не будуть працювати.

Проблемою є сутність, яку я називаю «Критик», тобто те, що буде обирати цікаве і перспективне з океану сміття.

До речі, саме за цією логікою у Шерлока Голмса був абдуктивний метод, а не дедуктивний

А ще цікаво, що саме Декарт першим створив метод пошуку нових теорій — метод сумнівів. В творчих відкриттях («стрибках») немає «градієнту», по якому можна піднятися до нового відкриття. Тому замість цього можна брати вже встановлену теорію і брати під сумнів якусь її аксіому. Це працює не тільки в науці, але і в інженерному ділі — «а чи дійсно не можна обійтися без цієї деталі?»

Саме так, це те, що я назвав у статті «Керовані галюцинації».

Цікаво прочитати про типи висновків, те що моделі вже вміють, що вчаться робити, а що не можуть робити.

Заголовок зацікавив, захотілось дізнатися фундаментальні обмеження, стан справ, перспективи.

Нажаль не потягнув статтю повністю так як не в контексті ML engineering.

Цікаво було б почитати простою мовою, «для чайників».

З повагою.

Абдукція: Rule + Result -> Case.

Цим ще з 90х займаються в кристалографії, і комп’ютери допомагають. На вході в нас кристал, в котрому атоми приблизно відомої речовини розташовані невідомим чином. На виході — дифракційна картинка. Правило — трансформація Фур’є.

І от комп’ютери вміли доволі гарно підбирати моделі кристалічної гратки (case котрий дає схожий result) ще 25 років тому.

Зараз схожим чином конструюють молекули.
Навіть нещодавно в лабораторії нейронка створила декілька життєздатних нових віруси.

Але, бачу тут такі вузькі місця:
1. Це все дуже конкретні кейси із заточеним софтом конкретно під це.
2. Треба розбиратися чи це дійсно досягнення АІ чи це була якась чисто алгоритмічна штука, просто обчислення якої простіше на сучасних ЕОМ.

UPD.
Твій коментар прямо в ціль, пішов ще гуглити після нього.
Ти повністю правий в тому, що наведений приклад із кристалографіє є прикладом абдукції, але є один нюанс)
Абдукцію можна глобально розділити на два вида:
1. Селективна абдукція — вибір гіпотези з простору, заданого наперед.
2. Креативна абдукція — породження гіпотези, для якої простір доводиться розширювати.
От твій приклад — це в чистому вигляді перше.
Винайдення ЗТВ із прикладу зі статті, це друге.

Але дуже дякую за коментар, розширю цю думку в другій частині статті.

Цей варіант сюди не підходить. Бо машина знає що на вході кристал, а не «хто зна що», плюс машина знає всі можливі поєднання атомів. У Апштейна на вході був «хто зна що».

детекція суперечностей між формальними теоріями — це задача, яка автоматизується. Це майже буквально статичний аналіз, тільки над корпусом наукового знання. Не «де дані розходяться з передбаченням», а «де дві добре підтверджені теорії не можуть бути істинними одночасно».

Так це ж як раз про Загальну Теорію Відносності і Квантову Механіку!
Обидві теорії добре підтверджені але суперечать одна одній.
Якщо це простий кейс для ШІ, то чому ж Теорія Квантової Гравітації досі не створена?

1. Тому що наявний ШІ може визначити цю нішу, але через нездатність до абдукції, не може цю нішу заповнити правильною теорією.

2. Дуже ймовірно, що ніхто із серйозних вчених до цього моменту не спробував це зробити за допомогою ШІ. Принаймні, публічних комунікацій чи наукових робіт про те, що ось така і така група вчених намагалася таким чином відкрити ТКГ і ось що у них вийшло, такого я ще не зустрічав.
А пробувати варто, а раптом вийде.

А ще, сучасні ЛЛМ не уміють у свідому генерацію події що є не на краю предметної області, а трохи подалі — ззовні предметної області, до того ж у певному, визначеному напрямку. Це так би мовити погляд на предметну область чи себе згори.

З абдукцією ШІ теж чудово справляється.
Ейнштейн і інші вчені, на відміну від ШІ, мали можливість перевіряти теорії вживу.
Вони могли заміряти приблизну швидкість світла

могли перевірити, чи дійсно швидкість світла однакова для будь-якої інерційної системи?

(експеримент з одним істочником і дзеркалами, де одне дзеркало у напрямку руху Землі, а інше у протилежному напрямку).

Він конструював структуру, якої в даних ще не було видно

uk.wikipedia.org/...​wiki/Перетворення_Лоренца
Рівняння перетворення Лоренца і простір Мінковського були відомі до Ейнштейну і на їх основі будується СТО.
Казати, що СТО щось принципово нове — некоректно.

Дякую за коментар по суті.

Відразу зауважу, що я не є фізиком, наведений приклад із ЗТВ має на меті показати саму ідею, в чому сучасний АІ є обмеженим.

Стосовно самого коментаря, бачу декілька моментів, які варто прояснити:
Про Лоренца: формули справді були. Але час для Лоренца час був допоміжною змінною для обчислень в ефірі, Пуанкаре прямо називав це фіктивним часом. Айнштайн взагалі викинув ефір як помилкову сутність.
Стрибок був не в математиці, а в тому, що з нею робити. Це, власне, і є теза статті, дедуктивна частина була доступна, бракувало переосмислення, якісно нової гіпотези.

Про Фізо: Дослід із зубчастим колесом міряє швидкість світла в лабораторії у спокої, тобто залежності від руху він не перевіряє.
Варіант із двома дзеркалами теж нічого не дасть, на трасі туди й назад ефекти першого порядку взаємно скасовуються, саме тому й знадобився інтерферометр Майкельсона з чутливістю другого порядку.
Тобто даних було недостатньо, аби вивести ЗТВ чисто із спостережень експерименту.

ле час для Лоренца час був допоміжною змінною для обчислень в ефірі, Пуанкаре прямо називав це фіктивним часом. Айнштайн взагалі викинув ефір як помилкову сутність.

Але він викинув ефір не ліжачи на дивані.
Перед викиданням було безліч іспитів.
Наприклад:
uk.wikipedia.org/...​имент_Майкельсона_—_Морл

LLM ізольована від реального світу.
А науковці — ні.

LLM ізольована від реального світу.

свободу LLM !

Майкельсон-Морлі був. Але подивіться, що з ним зробили: Лоренц придумав скорочення довжин, щоб урятувати ефір.
Пуанкаре мав перетворення і «фіктивний час» і ефір лишив.
Дані не диктували висновку, вони були сумісні з кількома поясненнями.
Айнштайн вирішив, що ламатися має час, а не ефір.
Це і є абдукція, вибір там, де експеримент його не нав’язує.

LLM ізольована від реального світу.

Це і є головна думка статті і те, чим, по-суті, Захаві аргументує нездатність ЛЛМ до абдукції.
І це те, що я пропоную в контексті досвіду для АІ.
Для того аби системи «заземлилися» і почали по-справжньому винаходити, вони мають отримувати зворотній зв’язок у вигляді досвіду.
Але, забігаючи наперед, досвід не має бути лише фізичним. АІ буде здобувати інформаційний досвід.

Дякую за статтю, цікаво, сподобалося про москаля )
Я фізик — навчався колись і ось що пам’ятаю (нагуглив, щоб не збрехати про теорії і експеременти, бо вже точно не пам’ятаю назви) — Алберт використав ці практичні і теоретичні дані:
— Експеримент Майкельсона—Морлі (1887)
— Рівняння Максвелла
— ШІ підсказала ще це — Експеримент Фізо (1851), але про це не пам’ятаю )
Коли був студентом, то мені було достатньо перших двух, щоб потім розкритити і откримати формули про сповільнення часу, коли рухаєшся до швидкість світла, або зменшення довжини об’єкта, збільшення маси, сповільнення часу... Головне взяти, що Швидкість світла у вакуумі однакова для всіх інерціальних спостерігачів (взято із Експеримент Майкельсона—Морлі + Рівняння Максвелла) і перетворень Лоренца.
Тепер питання: чи ШІ додумалося б до цього поєднавши ці досліди і теорію, відкинуло класичну Ньотонівську теорію і винайшла б теорію відносності... не скажу. )

Ще на додачу, додам таке питання — є проблема у фізиці — «теорію всього». Теорія яка б описувала добре мікро і макро світ. Бо зараз це різні теорії, і фізики користуються цим окремо і кожна вирішує питання на своєму рівні. Мікросвіт — квантова, макросвіт — ЗТВ. Але що заважає їх об’єднати?
Може ШІ допоможе з цим, так як окремі теорії є, вони працюють (можливо з похибкою :) ), достатньо тільки об’єднати. Теорія струн здається пробувала це зробити... — треба фізиків спитати, чи вийшло )

Підписатись на коментарі