Коли нейромережі заборонили писати текст: TypeSafe AI проти експертних систем
Уявіть собі звичайний мікросервіс у fintech- або automotive-проєкті. Йому потрібно ухвалити просте інженерне рішення: наприклад, з’ясувати, чи дозволяє регламент безпеки оновити прошивку блоку керування двигуном «по повітрю» (OTA) за поточної температури акумулятора та швидкості руху автомобіля.
Як цю задачу намагалися вирішувати останні три роки під впливом хайпу навколо генеративного штучного інтелекту?
Розробник бере велику мовну модель (LLM). Пише промпт на три сторінки:
«Ти — провідний експерт із функціональної безпеки ISO 26262. Проаналізуй наступні вхідні параметри: швидкість 110 км/год, статус батареї OK. Відповідай ВИКЛЮЧНО валідним JSON-об’єктом за схемою
{"allow_update": boolean, "reason": string}. Жодного вступного тексту, жодних вибачень!»
Що відбувається в продакшені на сотій або тисячній ітерації?
- Модель генерує відповідь півтори секунди, змушуючи клієнтський потік висіти в очікуванні.
- Раптово вона додає перед фігурною дужкою ввічливу фразу: «Звісно! Ось ваш JSON: {„allow_update“: true...».
- Стандартний
json.UnmarshalабоJSON.parseв коді ламається із синтаксичною помилкою. - Сервіс падає в
500-ту помилку, черга повідомлень забивається, а черговий інженер о другій ночі гарячково дописує регулярні вирази, намагаючись видерти шматок JSON з потоку слів.
Цей виробничий абсурд отримав в інженерній спільноті назву «парсинг думок»: ми витрачаємо гігавати енергії та мільйони транзисторів графічних процесорів, щоб модель згенерувала авторегресійний потік слів токен за токеном, а потім пишемо крихкі парсери, щоб перетворити цей текст назад у звичайний булевий прапорець чи числовий код переліку (enum).
У вересні 2026 року індустрія штучного інтелекту зробила показовий поворот. Колишні дослідники провідних лабораторій (зокрема OpenAI) представили публічну платформу TypeSafe AI та модель Jev, яку автори позиціонують як представника нового класу — System One Models (за аналогією зі швидким мисленням «Системи 1» Деніела Канемана). Їхня головна ідея радикальна: нейромережі повністю заборонили генерувати вільний текст. Замість цього модель одразу повертає типізовані машинні примітиви рішень.
Чи означає це кінець доби ненадійних чат-ботів у критичній бізнес-логіці? І чи здатні такі системи замінити класичні або сучасні символьні експертні системи? Давайте розберемося без маркетингового шуму — мовою архітектурних шаблонів, теорії ймовірностей та інваріантів надійності.
Архітектурна еволюція: Чому LLM відмовляються від слів
Щоб зрозуміти логіку розробників TypeSafe AI, погляньмо на те, як еволюціонував підхід до ухвалення рішень в алгоритмічних системах.

Прокляття авторегресії
Класична авторегресійна мовна модель влаштована як генератор ланцюжка ймовірностей:
P(w_1, w_2, ..., w_n) = ∏ P(w_i | w_1, ..., w_{i-1})
Кожен наступний токен вимагає повного прямого проходу (forward pass) через усі шари трансформера. Якщо вам потрібна проста категоризація документа за 5 класами, традиційна LLM все одно змушена генерувати десятки токенів, утримувати стан у KV-кеші пам’яті та споживати гігабайти відеопам’яті. Латентність такої операції коливається від 1.5 до 5 секунд.
Підхід TypeSafe AI: Неавторегресивний класифікатор рішень
У TypeSafe AI викинули генеративний декодер. Їхня флагманська архітектура працює як багатозадачний енкодер:
- На вхід подається стан (
State) — сирий текст, логи, JSON-об’єкт або телеметрія. - Одночасно системі передається набір строго типізованих запитань.
- За один прямий прохід (без покрокової генерації токенів) спеціалізовані проекційні голови обчислюють логити й повертають машинні примітиви:
Choice: вибір одного варіанта з наперед визначеного списку із супутнім розподілом ймовірностей Softmax.Noul: бінарна відповідь («так/ні») із каліброваною оцінкою впевненостіp ∈ [0.0, 1.0].Score: оцінка на безперервній або ранговій шкалі.
Завдяки відмові від генерації тексту час реакції моделі скоротився до
Головне гасло такого підходу: «Ми повністю ліквідували галюцинації формату» (zero hallucinations of format). Відповідь фізично не може містити невалідний синтаксис чи сторонній текст, бо модель формує безпосередній двійковий тензор рішень, який серіалізується в суворий JSON.
Але тут починається головна інженерна пастка, про яку мовчить маркетингова документація.
Два рівні галюцинацій: де закінчується синтаксис і починається катастрофа
Коли інженери чують словосполучення «ШІ без галюцинацій», у багатьох виникає відчуття, що проблему надійності розв’язано. Проте в теорії надійності програмних комплексів слід чітко розрізняти два принципово різні рівні відмов:

Галюцинації рівня 1 (Синтаксичні / Форматні):
- Проблема: модель видала текст замість числа, забула закрити дужку, вставила емодзі або вигадала поле, якого немає в схемі.
- Статус: ВИРІШЕНО. Підхід TypeSafe AI дійсно усуває синтаксичні дефекти на рівні проектування вихідних шарів нейромережі.
Галюцинації рівня 2 (Семантичні / Епістемічні):
- Проблема: модель повернула ідеальний, валідний JSON-об’єкт
{"action": "SHUTDOWN_COOLING", "confidence": 0.992}, але це рішення є фатально помилковим з погляду фізики реактора чи регламенту безпеки польотів. - Статус: НЕ ВИРІШЕНО І НЕ МОЖЕ БУТИ ВИРІШЕНО в межах суто ймовірнісного підходу.
Чому висока впевненість не є доказом істинності
Будь-яка нейромережа, незалежно від того, авторегресійна вона чи класифікаційна, залишається статистичним апроксиматором функцій. Її вихід — це розподіл ймовірностей:
Softmax(z)_i = exp(z_i) / ∑ exp(z_j)
Якщо на вхід моделі надходить рідкісна межова ситуація (Corner Case), якої не було в навчальній вибірці, або зловмисний зразок (Adversarial Attack), вихідні шари все одно згенерують вектор ймовірностей. Модель може видати розподіл p = 0.98 на користь небезпечної дії просто тому, що статистичні патерни шуму в активаціях збіглися з ваговими коефіцієнтами ядра.
Для веб-форми рекомендації фільмів або сортування вхідних листів у службі підтримки цього більш ніж достатньо. Але для mission-critical систем — банківського клірингу, керування енергомережами, медичного дозування чи автоматичного контролю залізничного руху — рішення без детерміністичного доказу є неприпустимим ризиком.
Анатомія альтернативи: як працюють сучасні символьні експертні системи
Якщо TypeSafe AI репрезентує еволюційну вершину нейромережевої «Системи 1» (швидка статистична інтуїція), то протилежним полюсом комп’ютерних наук виступають експертні системи нового покоління — аналог раціональної та суворої «Системи 2».
На відміну від перших експертних систем

Ключові архітектурні принципи таких систем:
1. Декларативні незмінні бази знань
Знання не «запікаються» у ваги нейромережі шляхом довгого і непередбачуваного навчання методом зворотного поширення помилки. Вони компілюються з верифікованих першоджерел у двійкові структури даних (вирівняні бітові масиви, матриці суміжності, онтологічні графи), які відображаються в пам’ять через механізм Zero-Copy mmap.
Будь-яке оновлення регламенту чи закону — це не повторне донавчання моделі за тисячі доларів, а детермінована атомарна перекомпіляція відповідного бінарного пакету за частки секунди.
2. Побайтова кастодія фактів
У доказовій експертній системі діє непорушний закон: жоден факт або висновок не може виникнути «з повітря». Кожен предикат зберігає криптографічний якір (хеш SHA-256 та точні координати байтового діапазону) першоджерела, з якого його було вилучено.
Якщо система стверджує, що дія дозволена чи заборонена, вона повертає не просто абстрактний флаг, а паспорт доведення, де зазначено:
- точну цитату нормативного документа;
- криптографічний підпис пакета знань;
- ланцюжок формального виведення (наприклад, правила Modus Ponens або резолюції).
3. Режим гарантованої безпеки під час відмов: Fail-Closed
У чому полягає фундаментальна різниця в поведінці систем під час зіткнення з невідомим?

- Ймовірнісні моделі (включно з TypeSafe) за своєю природою схильні до Fail-Open: коли ситуація неоднозначна, модель обирає клас із дещо більшою вагою (наприклад, 51% проти 49%) і здійснює дію.
- Символьні експертні системи працюють виключно за принципом Fail-Closed: якщо умова не визначена однозначно, якщо виявлено суперечність у правилах або відсутній прямий нормативний дозвіл, система негайно блокує ризиковану операцію, повертаючи контрольовану відмову (
REFUSAL).
Порівняльний інженерний аналіз: TypeSafe AI проти Експертних Систем
Зведемо фундаментальні характеристики обох парадигм у єдину матрицю прийняття рішень для системного архітектора:
| Інженерний критерій | Підхід TypeSafe AI (Jev) | Сучасні Доказові Експертні Системи |
|---|---|---|
| Математична природа | Неавторегресивна нейромережа, векторний простір, ваги | Формальна логіка, SMT-солвери, теорія аргументації (ASPIC+), кінцеві автомати |
| Швидкість обчислення | 70 — 250 мс (залежно від довжини контексту стану) | < 1 — 10 мс (апаратні інструкції, бітові операції, Zero-Copy mmap) |
| Синтаксична стабільність | 100% гарантована валідність схеми виходу | 100% сувора типізація компільованих структур |
| Епістемічна надійність | Ймовірнісна (P(choice)), схильна до семантичних збоїв | Абсолютна (ZHR = 1.0) в межах закладеної формальної моделі |
| Пояснюваність (Explainability) | Чорна скринька (можливе лише апостеріорне зняття активацій) | Повний ланцюг доведення (Proof Trace) з побайтовим цитуванням першоджерела |
| Вартість оновлення знань | Потрібне донавчання, валідація ваг, ризик катастрофічного забування | Миттєва перекомпіляція декларативного пакета фактів |
| Сертифікація безпеки | Неможлива за найвищими рівнями (ISO 26262 ASIL D, DO-178C Level A) | Придатна до суворої формальної верифікації |

Як видно з графіку, між цими двома світами існує чіткий інженерний компроміс:
- Якщо вам потрібно з високою швидкістю категоризувати розмиті, неструктуровані людські формулювання, для яких не існує суворої математичної моделі — неавторегресивні класифікатори рішень демонструють колосальну перевагу над повільними класичними LLM.
- Якщо ж на кону стоїть безпека людського життя, фінансова відповідальність чи юридична бездоганність — будь-яка ймовірність нижче 100% є неприйнятною.
Прагматичний синтез: гетерогенний тандем двох світів
Чи означає цей аналіз, що інженери повинні обрати лише один табір і відкинути інший? Зовсім ні.
Найбільш зрілі сучасні інженерні архітектури будуються за принципом дворівневого гетерогенного симбіозу, де кожен компонент виконує виключно ту роботу, для якої він пристосований математично:

Як працює тандем на практиці:
Рівень 1: Тракт швидкого сприйняття (System 1 на базі ідей TypeSafe)
- На вхід надходить сирий, неструктурований текст користувача чи журналів подій.
- Швидкий неавторегресивний класифікатор за
20–50 мс розбирає намір запиту, нормалізує синоніми та видобуває ключові іменовані сутності у строгий попередній типізований фрейм. - Критичний елемент — калібрований шлюз ентропії:
Якщо ентропія розподілу ймовірностей перевищує заданий інженерний поріг:система відмовляється робити сліпе припущення й ініціює діалог уточнення. Якщо ж впевненість висока — структурований фрейм без жодних розмов передається далі. H(X) = - ∑ p_i * log2(p_i) > H_threshold
Рівень 2: Детерміністичне символьне ядро (System 2 — Експертна система)
- Отримує попередньо типізовані параметри від першого рівня.
- Звіряє їх із бінарними базами знань, перевіряє передумови, винятки, числові діапазони та заборони.
- Ухвалює остаточний, криптографічно підписаний вердикт (
ACCEPT/REFUSAL) з повною побайтовою кастодією першоджерел за лічені мікросекунди.
У такому тандемі неавторегресивна нейромережа слугує надійним «оком і вухом», а символьна експертна система — безпомилковим «мозком і волею», що утримує периметр безпеки.
Висновки
- Відмова від текстової авторегресії — головний тренд зрілості індустрії ШІ. Спроби змусити LLM писати текст для потреб програмних інтерфейсів виявилися неефективним карго-культом. Поява систем на кшталт TypeSafe AI доводить: індустрія рухається в бік швидких, неавторегресивних спеціалізованих класифікаторів із нативними типізованими примітивами рішень.
- Синтаксична валідність не дорівнює істинності. Гарантія правильної структури JSON («нуль галюцинацій формату») усуває помилки парсингу в коді, але жодним чином не захищає від семантичних галюцинацій та хибних рішень. Ймовірнісна модель залишається статистичною здогадкою.
- Місійно-критичні системи вимагають детермінізму та кастодії. Для фінансових, медичних, транспортних та оборонних застосунків вирішальними залишаються символьні експертні системи з побайтовою прив’язкою до нормативних фактів і режимом безпечної відмови Fail-Closed.
- Майбутнє — за гетерогенними архітектурами. Найбільш ефективний інженерний патерн найближчих років — це поєднання неавторегресивного нейромережевого тракту сприйняття (System 1) для нормалізації сирого входу та суворого символьного логічного ядра (System 2) для остаточної верифікації дій.
А тепер розкажіть, чи використовуєте ви зараз LLM у своїх сервісах суто для задач класифікації та роутингу, і як боретеся з латентністю та раптовими помилками парсингу JSON? Чи готові ви повністю відмовитися від генеративного тексту на користь неавторегресивних моделей рішень у бекенд-пайплайнах?
Який рівень математичної доведеності (пояснюваності) вимагають замовники у ваших доменах: достатньо статистичної впевненості чи регулятори наполягають на повному аудиторському сліді ухвалення рішень?
Діліться своїм практичним виробничим досвідом у коментарях!
22 коментарі
Додати коментар Підписатись на коментаріВідписатись від коментарівГарна стаття... але дається взнаки вузька спеціалізація автора....
Звісно, коли знання про Prolog/Datalog експертні системи — не далі використання у виші — то «старі» експертні системи «не такі» як «Сучасні Доказові Експертні Системи»... ха! Експертні системи не можуть бути не доказовими — це в їх основі, і, повірте, продакшн рішення були близьки до того, що вами описано...
По друге, автор «своїми словами» описав те, що досить вже давно використовується в data-enginereeng — data contracts — які як раз і є описаними обов’язковими правидами, якім має відповідати дата. Наприклав evidience-contract котрий несе саме доказовість...
І побудова сучасного lakehouse просто немождива без дата контрактів та дата продуктів..
(Так, я пійшов вже трохи далі і побудував tensor-lakehouse де контракти трансформуються в алгоритми, які в центрі cypher запиту — але індустрія до того ще не готова... — це ще не сучасний підхід)
По-третє — а сама тема статті... Хто вам сказав що ML/DL !вже всьо" — і відповідно, нащо щось вирішувати засобами, не зарактерними саме для теми? А, не правильно використав AI інструмент гонорово повертатися до ML/DL... :)
Є жарт що GenAI виник тоді, коли перестало вистачати PhD для тренування Deep Learning та нейронних мереж..
Тільки не жаорт, що нейронні мережі тренують PhD, а LLM based AI тренують безграмотні вчорашні безробітні....
...індустрія вже виходить від хайпа і переорієнтовується...
Сучасні напрямки онтології/самантики та глибоких корпоративних рішень вимагаж зваженого використання як ML/DL, так і GenAI AgentAI,,,
Я ж копаю tensor calcul і її імплементацію в дата інженірінг...
Оце ж онтологія — це ж по простосму Laplas Transformation, а сінтетіка — трансформації Фур’є (ряди Фур’є} — ... чому б не пошукати гармоніки в багатомірному ковалку даних?
Зараз пишу про то статтю на Медіум — якщо буде нагода — почитайте...
чи заходить
так яке відношення має метафізика до тих рівнянь/трансформацій, чи як вони пов’язані?
Ха... просто відкрийте youtube та зробіть пошук по словам ontology, semantics Palantir, Anthropics, Databriks... вони пояснять краще за мене... Я ж додаю що все це — комбінація математичних дисциплін Fure series, Laplas transformation, Tailor series.... і от я сам працюю над імпдементацією Tensor Calcul в data engineering...
І що вам ютюб підсказав що general metaphysics це по простому трансформація Лапласа? Окей, дивіться далі.
Пане Сергію, дякую за коментар. Я не стверджую, що промислові Prolog/Datalog-системи були «без доказів»: у багатьох були правила, трасування й пояснення висновків. У статті я мав на увазі сильнішу вимогу — перевірний зв’язок факту з конкретним джерелом, його версією та походженням. Схоже, це розрізнення варто було чіткіше сформулювати, а не протиставляти старі й сучасні системи. Я намагаюсь аналізувати старі системи, їх сильні сторони і перспективи усунення слабких сторін сучасними засобами. Звісно це більш теоретично читається, але роблю що а) мені цікаво б) що можу наявними засобами
Згоден і з перетином із data contracts. Ба боільше, буде цікаво порівняти його з вашим evidence-contract: які саме властивості він фіксує — структуру й якість даних чи також походження доказу та підставу висновку? Або підкажіть мені напрям на більш детальних прикладах.
ML/DL я не оголошую завершеним: ідеться про розподіл повноважень у конкретному сценарії, а не про заміну однієї парадигми іншою. Сам вчу цей напрям потрохи, в межах власних можливостей.
Найбільше хотів би зрозуміти ваш tensor-lakehouse. Можете зконтактувати до мене напряму?
Звісно я буду вдячний за посилання на вашу статтю про тензорні обчислення. Поки не бачу, як саме ви пов’язуєте перетворення Лапласа чи Фур’є з онтологією; конкретний приклад допоміг би розібратися.
Щодо вузької спеціалізації автора — «маємо те, що ми маємо» © ЛДК :) Пропонуйте теми для розширення спеціалізації. Тема експертних систем була публічно значно облишена увагою останні пару десятків років і особливо тут в Україні, але це суто на мій погляд.
Ще раз дякую за коментар!
Першу чатину (вводну) я вже написав — medium.com/...ssons-part-1-cf62f66f2374
По експертним системам. Моя дипломна робота МВТУ ім Баумана в1994-му році була «експертна система — робоче місце психіатра» і вона ні чим не відрізнялася від теперішнього cрatGPT чи чогось подібного — комбінацією Prolog та LISP вдалося зробити і RAG, і embedding, і багато чого іншого — система задавала типові питання, котрі задає психіатр, та аналізувала відповідь. Тобто, вже тоді був весь достатній інструментарій...
Але. «По розподіленню» я попав до Львову (ха — було легко, бо з МВТУ всі оялися «бандерів») ... але там мені сказли що «Експертні системи вже всьо...»
Власне історію розвитку дата інженерії та АІ я виклав в статті про концепцію Дата Фонтан ( medium.com/...-ready-truth-e22b232f0480) — пробував опублікувати тут, але ...дуже незрозумілі обмеження по публікації на DOU!
Основна ж суть в тому, що певний час АІ було закрито для публіки і щоб тим займатисятреба було мати рівень PhD мінімум. Хоча, звісно, ніхто не припиняв тим займатися...
...і от лише коли PhD закінчилися, це знову відкрили для публіки та почали на тому заробляти гроші...
І от «оснвна тема сучасності» — що далі. Всі «лідери галузі» — Palantir, Anthropic, Databricks — сходяться на семантиці, онтології та подібному...
Тож, ви правильно пишете — і я про то писав в Дата Фонтан — моє зауваження лише — раджу використовувати терміні дата інженерії — яких тут багато.
А от tensor-lakehouse — вже еволюція Дата Фонтан. Так, там логічна ідея медальйона з багатьма специфічними леєрами — але головна проблема — кожний — це дата оверлоад...
І от тут лоігчним було згадати про Tensor Calcul... Тут є готова математика для всього...
І головне правильтензорного обчислення — матеріалізація лише на фінальному етапі...
В результаті що мені вдалося реалізувати на GCP (проект не називаю — NDA!)
— всі row данні приходять в систему та кладутьвся в HNS бакет GCS. Але не просто так — воно кристалізуються.
Що це таке? Кліжнтські данні не є з повітря. Вони взаємо залежні. Вони легко укладаються в багатовимірну модель де кожний вимір — бізнес сутність... Так, в алгоритмі кристалізації і ряди Фур’є (розкладання данних по гармоніках, семантика), трансформація Лапласа (зворотня побудова з гармонік цілісної моделі, онтологія), ряди Тейлора (сегментація данних, робота з порціям данних, їх стріммінг та створення нових кристалів)... ...і чому кристал? Бо данні приходять постійно і кристал росте...
Як тензор покласти в бакет? ...математично він розкладається на вектори та скаляри. А далі HNS бакет з vortex файлами з tensor extentions, tourch sidecars, paimon vector index, ANN, CSK/CSC, та подібне...
...а далі ми працюємо не з датою, а з інформацією про неї... І працюємо не з SQL, а з Cypher з основою на алгоритмах... І от тут додатковй момент... алгоритми «намайнені» в кристал алгоритмів, нові та більш оптимальні постійно "майняться«/додаються...
І от поверх того нейронна мережа Deep Learning.... Маленькі ультрашвидкі дендріт-кулькі (cloudRun rust імедж котрий працює в L2 кеш проца) відпрацювують алгоритм 1NF рівня складності, а Open Lineage «розбирає» алгоритми більшого рівня (впритул до 8NF) на чергу виконання певної кількості дендрітів... І маємо результат...
І от — в результаті — данні лишаються в бакеті. Але... коли ми створюємо ентіті, дендріти відпрацювали cypher з певними алгоритмами та створили додаткові індекси та сайдкари — і помітили зону цього ентіті в дата кристалі... і так з дата-контрактами та дата продуктами...
В результаті по запиту клієнта віддаємо йому стрім дата продукта з бакета по цим міткам...
А коли в нас більше 300 алгоритмів, котрі більшість — дотичні до торгівлі... повнйи комплект без монстрів на клталт Spark/DataProc та подібного...
І от поверх того agentAI працює чітко, без галюників --- бо варіацій загалюціонувати не багато...
Допишу статтю на Медіум (ще дві частини лишилося) — спробую лаконічно то викласти тут...
Загалом, ще важливий ньюанс — rust rulezzz! Зараз при наявності AI-помічників — просто класс!
Ну тут таке... вони як не загалюцінують, то вдаряться у підлабузництво (підтасування фактів заради побажання «гаспадіна наcяльніка»)
Тут на ДОУ ще досі це робити незручно. Краще викладайте гарно фофрмлені статті в окремому відкритому репо на GitHub, з використанням Mermaid and MathJax — та Ви це усе розумієте як зробити.
Ну це як то кажуть — окрема тема поспілкуватися за бокалом справжнього пива.
Я зараз практикую Go як більш легку і швидку мову. Я дуже симпатизую до Rust, кілька разів брав наждачку в руки, але Perhaps Perhaps Perhaps!
Зараз FPGA це мій магнит!
Structured Output гарантує, що відповідь буде за заданою JSON-схемою, тому описаної ситуації з помилкою парсера або валідатора бути не може.
developers.openai.com/...utputs?api-mode=responses
І методичку, як це застосовувати, OpenAI надали ще 6 серпня 2024 року (два роки назад).
developers.openai.com/.../structured_outputs_intro
Окрім цього, ви не вказали, що LLM може працювати в режимі «швидкої реакції»: OpenAI Decisions API. Там під капотом
gpt-6-lunadevelopers.openai.com/...api/docs/guides/decisions
Пане Володимире, дякую за запитання.
OpenAI Decisions API окремо не тестував. У статті я досліджував інший підхід і не порівнював його з цим API. Це було б цікаво перевірити на однакових задачах, окремо вимірявши якість рішень, затримку та вартість. Гарантія формату відповіді й точність самого рішення для мене залишаються різними критеріями.
Детермінована відмова — це звичайно добре, але від системи загалом замовником вимагається діяти в умовах невизначеності.
«Датчики дають помилку, звʼязку немає, куди роботу рухатись далі?»
Яким чином в такому випаду працювати з відмовою по причині необхідних правил?
Дякую за запитаня, Святославе.
Спершу процитую:
Збій (Transient Fault / Glitch) — тимчасове самовідновлюване порушення працездатності (наприклад, короткочасна завада на датчику чи просідання зв’язку).
Відмова (Failure) — стійка втрата працездатності вузла чи каналу. Треба зовнішній впоив на відновлення працездатності.
А те, що повертає шлюз експертної системи (REFUSAL), коректно назвати відхиленням (або блокуванням) команди, щоб не плутати його з технічною відмовою обладнання.
Коли шлюз повертає REFUSAL, це не означає відмову всієї системи за принципом «вимкнути мотори і зупинитися». Це сигнал автомату станів, що штатну команду виконувати небезпечно і треба перейти в режим керованої деградації (Fail-Safe або Fail-Operational):
- Якщо на датчику стався збій або повна відмова, шлюз відсікає саме цей канал, щоб хибні дані не пішли в контур керування, а борт переходить на резервні датчики (інерціальну систему, одометрію, барометр).
- Якщо пропав зв’язок і для штатних правил бракує вхідних даних, автомат станів перемикається на наперед зашиті правила автономного виживання: знизити швидкість, тримати останній достовірний курс за інерціалкою або виходити із зони завад.
- Якщо в умовах невизначеності маршрут все ж прокладає ймовірнісна модель, то вона видає лише дорадчі координати, а нижній контролер тримає жорсткі фізичні обмеження (швидкість, крен, струм приводів), за які модель вийти не може.
Тобто при збоях датчиків і втраті зв’язку правила не зникають: система просто перемикається зі штатних правил на консервативні правила аварійного режиму. Це значно безпечніше, ніж дозволити нейромережі навмання командувати приводами з впевненістю 0.99.Такі явища Ви можете спостерігати в поведінці сучасних автомобілів. Я от особисто вчора сопстерігав, сьогодні автівка ще досі на СТО :)
Пане Миколо, дозволю собі географічне уточнення до розділу «Архітектурна еволюція». Encoder-only модель, яка за один forward pass повертає типізований вибір із наперед заданого набору міток, без жодної авторегресії це не вересень 2026 і не San Francisco. Це GLiClass від Knowledgator, Apache-2.0, автори сидять в Україні і вже другий рік тихо викладають це на HuggingFace. Поруч GLiNER для сутностей, GLinker для zero-shot entity linking і GLiNER.cpp, щоб це все крутилось у процесі без Python і без 40 мільйонів інвестицій. Те саме «System One», тільки без Канемана на обкладинці й без бота в Doom )) Тобто «свій до свого по своє», IYKWIM.
Єдине, що в TypeSafe справді нове — RLCD, калібрування ймовірностей під реальні outcome. У GLiClass такого немає, там звичайний sigmoid. Але чи рятує калібрування ваш ентропійний шлюз? Adversarial-вхід за визначенням дає низьку ентропію на хибному класі, і калібрована впевненість 0.98 тут гірша за некалібровану, бо їй більше віриш. Для Fail-Closed потрібна не H(p) > поріг, а conformal prediction з гарантованим покриттям або OOD-скор на embedding’ах. Чим саме у вас обмежений шлюз?
І головне, заради чого пишу. У вашій таблиці весь вігвам тримає одна клітинка: «Абсолютна (ZHR = 1.0) в межах закладеної формальної моделі». Весь фокус у слові «в межах». Межа проходить там, де ваша ж нейромережа з попередньої статті дає імена фактам, витягнутим з PDF. SHA-256 на байтовому діапазоні підписує цитату, а не семантику: він доводить, що текст існує, а не що з нього витягнуто правильний предикат. Семантична галюцинація нікуди не ділась, вона переїхала з інференсу на етап компіляції пакета знань і там уже підписана й замурована. Fail-Closed на хибному предикаті — це fail-closed з повним proof trace неправильного рішення ))
Тому дуже конкретно: чим верифікується компіляція знань? GLinker тут виглядає як рівно той місток, якого бракує: сутність заземлюється на вузол онтології з явним скором, а не «модель дала ім’я». У вас предикати прив’язуються до онтологічного графа через entity linking, диференційний прогін двох екстракторів, SMT-перевірку несуперечності правил −0-) чи все-таки «людина переглянула»?
P.S. Jev на власному бенчмарку TypeSafe дає 67.8% accuracy проти 67.9% у GPT-5.6. 193x швидше помилятися то теж метрика ))
Пане Миколо, щиро дякую за географічне й архітектурне уточнення. Повністю підтримую вашу тезу щодо розробок української команди Knowledgator (github.com/Knowledgator).
Те, що в Каліфорнії у вересні 2026 року подали під гучним маркетинговим гаслом «System One Models» із залученням 40 мільйонів доларів інвестицій, Ігор Степанов, Михайло Штопко, Дмитро Водяницький, Олександр Лукашов, Микита Ярошенко та їхні колеги вже другий рік системно розвивають у відкритому коді під ліцензією Apache-2.0:
GLiClass для однопрохідної класифікації послідовностей без авторегресії: репозиторій github.com/Knowledgator/GLiClass та стаття на arXiv arxiv.org/abs/2508.07662
GLiNER (multi-task та bi-encoder) для видобування сутностей: публікації arxiv.org/abs/2406.12925 і arxiv.org/abs/2602.18487 та колекція моделей huggingface.co/knowledgator
GLinker для багатошарового зв’язування сутностей із базою чи графом знань (Entity Linking): github.com/Knowledgator/GLinker
GLiNER.cpp для нативного виконання моделей на C++ поверх ONNX Runtime без Python-оточення: github.com/Knowledgator/GLiNER.cpp
У своїй липневій статті про детекцію знань у документах RFC (dou.ua/forums/topic/60526, розділ «Чому не інша Go-бібліотека») я якраз розглядав GLiNER у зв’язці з Go-бібліотекою hugot (github.com/knights-analytics/hugot) та ONNX Runtime як локальний інструмент розпізнавання сутностей. Ваша згадка про всю лінійку Knowledgator разом із GLiClass, GLinker та GLiNER.cpp тут надзвичайно доречна.
До речі, навіть на полі RL-калібрування ймовірностей американський стартап уже не має ексклюзивності: у свіжих комітах репозиторію GLiClass українські автори вже додали модулі калібрування (github.com/...ss/blob/main/calibrate.py) та навчання з підкріпленням (github.com/...ass/blob/main/train_rl.py).
А ваше зауваження в P.S. про «193x швидше помилятися» при точності 67,8% проти 67,9% влучає просто в ціль: висока швидкість статистичного вгадування без детермінованої верифікації не робить класифікатор безпечним для відповідальних застосувань.
Щодо Вашого запитання, чи рятує калібрування ентропійний шлюз і чим він обмежений.
Ви праві: сама по собі низька ентропія не рятує ні від adversarial-атак, ні від невідомих даних (OOD). На чужому вході нейромережа легко видає впевненість 0.98 на хибному класі, бо просто проектує незнайому точку на знайому гіперплощину (arxiv.org/abs/1706.04599).
Тому в статті ентропію Шеннона наведено лише як базовий приклад для пояснення ідеї. У реальному шлюзі перед System 2 працюють два сильніші фільтри, про які ви й згадали:
OOD-фільтр на ембедингах ще до класифікатора. Ми міряємо відстань Махаланобіса від вхідного вектора до центроїдів відомих класів (arxiv.org/abs/1807.03888, загально я згадав це у статті dou.ua/forums/topic/60032). Якщо запит упав далеко від знайомих кластерів, шлюз бракує його як OOD одразу і навіть не дивиться на ймовірності класів.
Конформне прогнозування (Conformal Prediction за Вовком та Candes/Barber: arxiv.org/abs/2107.07511, arxiv.org/abs/2202.13415). Замість однієї відповіді класифікатор повертає множину кандидатів, які пройшли поріг сумісності.
Правило:
— якщо в множині рівно 1 клас, пропускаємо в символьне ядро;
— якщо 0 класів (жоден не підійшов), повертаємо REFUSAL;
— якщо 2 і більше класів (неоднозначність), ставимо паузу і вмикаємо діалог уточнення.
А ентропія Шеннона вмикається вже на цьому третьому кроці: не для того, щоб сліпо повірити моделі, а щоб вибрати таке уточнювальне запитання до користувача, яке найшвидше відсіче зайвих кандидатів.
І головне, чого ви написали коментар: на яких клітинках-підпірках тримається мій вігвам із ZHR = 1.0, щоб не замурувати семантичну галюцинацію у mmap під криптографічним підписом ))
Ви точно описали пастку: хеш SHA-256 на байтах цитати доводить лише те, що речення в PDF існує, але не те, що парсер зрозумів його правильно. Інакше Fail-Closed на кривому предикаті перетвориться на бетонобійний генератор неправильних відмов із бездоганним proof trace ))
У липневій статті (dou.ua/forums/topic/60526) я свідомо влаштував локальній qwen2.5-coder:7b (вже потім звісно поганяв і інші модельки) мені цікавий експеримент: дав їй голі кластери без онтології і попросив придумати назви, щоб зловити її за руку на галюцинаціях (де вона радо обізвала групу lsr/lsp/bfd чужим акронімом LDP).
Тому в компіляторі пакетів знань генеративній моделі взагалі заборонено вигадувати предикати. Вігвам тримають усі чотири розпірки, які ви назвали:
Розпорка 1. Синтаксичний компілятор та закрита онтологія. Предикати витягує не фантазія LLM, а детермінований парсер залежностей (Universal Dependencies: aclanthology.org/2021.cl-2.11). Перший прохід збирає з документа визначення (DEFINE, SHALL MEAN) у таблицю символів, другий розв’язує займенники (it, this) у межах розділу і переводить фізичні величини в СІ. Якщо предиката немає в словнику онтології або розмірність не сходиться, правило летить у кошик. І ваша ідея поставити сюди GLinker у режимі strict_matching для прив’язки сутностей до вузлів графа зі скором лягає сюди як рідна.
Розпорка 2. Перехресний допит і тест «на дурня». Коли для складного тексту я підключаю нейромережевий екстрактор (затиснутий граматикою GBNF), його вихід звіряється з синтаксичним парсером. Плюс для кожного правила генерується «шкідливий близнюк» (MUST міняється на MAY або поріг зсувається за норму). Якщо правило не блокує контрприклад, компілятор його бракує.
Розпорка 3. Перевірка через SMT-солвер Z3 (github.com/Z3Prover/z3). Перед записом у бінарник солвер перевіряє перетин числових інтервалів для одного параметра, зв’язує винятки (UNLESS / EXCEPT WHEN) і звіряє правило з базовими аксіомами безпеки.
Розпорка 4. Human-in-the-loop. Загальні технічні норми (усілякі протоколи, коди від SMTP, таймаути, тощо), які пройшли онтологію, одиниці СІ, контрприклади та SMT-перевірку Z3/CVC5, компілятор збирає автоматом. Наприклад на правила безпеки ASIL рівня C/D компілятор вішає замок QUALIFIED_HOLD, доки ці правила не підпише інженер безпеки (причому за принципом незалежності оракула та вимогами ISO 26262 це має бути не той інженер, який готував пакет).
Тож фокус «в межах моделі» свідомий: я просто виніс усю бійку за семантику з мілісекундного рантайму на етап компіляції пакета знань ))
Пан вам писав без AI, а ви йому генерацію агента скинули, наче не дуже гарно...
Пане Володимире, дякую Вам за особисту думку щодо гарної відповіді, але у відповідь мені цікаво, за яких критеріїв Ви дійшли до висновку «наче не дуже гарно»?
Моя позиція була наступною — надати розгорнуту тематичну відповідь. Пан Микола — сильний інженер і фахівець.
Відписатися пану Миколі коротко «ну ок, дякую» — це означає несприйняти мною його зусилля на прочитану статтю і наданий календар. На мою думку це «наче не дуже гарно».
Проігнорувати такого цікавого співбесідника і коментатора, це теж «наче не дуже гарно».
Надати відповідь з неточностями або помилками — це теж «наче не дуже гарно».
А у мене в голову не можна додати декілька нових пентабайтних банків пам’яті для швидкої ймовірнісно точної відповіді — як біоробот я застаріла модель, апгрейд майже неможливий. Тож доводиться звертатися до асистентів для допомоги формувати відповідь з тематичними подробицями.
Ще в першому коментарі я подякував:
і підтримував:
Отже, три моїх тези про «наче не дуже гарно» проти одної Вашої.
Ще раз дякую Вам, Володимире.
Мені далі не хочеться цей оффтопік продовжувати про гарність чи негарність користуватися книжками/друзями/ші-асистентами для формування тематичних фахових діскусій.
Ви ще забули написати, що автор не тільки користувався AI помічником, він ще їхав на машині і паркувався зі вмикненим режимом автопаркування... (А про google-навігатор мовчимо загалом на геть!)
Чесно скажу, є така функція автоматичного паркування в моєму старенькому Kia Carens, скористався нею аж 2 рази за 12 років експлуатації :))))
Цікаво, а що за бенчмарк?
Та чи пробували ви OpenAI Decisions API (gpt-6-luna) щодо якості та швидкості?
А чому
?
— IMHO такі речі «дотичніше» робити на rust. Зараз там просто «ренесанс». Anthropic викладає нові версії connect-rust практично раз в тиждень, Vortex — кожен місяць вже новий реліз з новими розширеннями під все що треба... ...плюс і cxx для перезоду на rust — ну максимально вже автоматизований! :)