Парадокс «Курки та Яйця»
Людина і ШІ, експертна детективна історія!
Чому сучасні ШІ галюцинують? Чому навіть експерт разом із ШІ не завжди отримує очікувану відповідь? Де проблема: у промпті, контексті чи самій моделі? Може, достатньо просто правильно попросити ШІ? Але тоді яку інформацію треба йому дати, щоб отримати правильну відповідь? І якщо для хорошого запиту вже треба добре розуміти предмет, то що було спочатку: курка чи яйце?
Чарівного промпту, який працює у 100% випадків, не існує. Один і той самий запит у різних моделях може давати різні результати, і причина не лише в самому промпті.
Проблема ще й у тому, що ми часто передаємо ШІ інформацію так, ніби він уже розуміє наші терміни, зв’язки та приховані припущення.
І тут з’являється семантична інженерія. Її завдання не знайти «ідеальний промпт», а організувати інформацію так, щоб поняття, їх значення та зв’язки були зрозумілими і людині, і ШІ.
14 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівТема цікава, але це більше схоже на вступ до основної статті, ніж на повноцінне, закінчене оповідання. От тільки розігнався — вже й кінець тексту, а я сподівався побачити цікаві приклади з практики автора або хоча б ідеї про те, як обійти/мінімізувати цю проблему/парадокс.
Готую більш аргументовану статтю з прикладами, щоб було зрозуміло концепцію, залежить багато від модераторів, але і у цьому анонсі є головна ідея, тому більш розширена інформація буде у наступному Топіку. З повагою до зацікавлених людей які цікавлять не стандартними думками!
Хто читав — про шо топіґ?
Я читав — чувак нічого не розуміє і намагається вгадати чому в нього промпти не працюють
Андрію, ви неуважно прочитали текст і зробили хибний висновок. Автор не «намагається вгадати, чому в нього щось не працює». Стаття зовсім про інше — про системну причину, чому в інших виникає невідповідність у відповідях ШІ на їхні промпти, і чому підбір слів не вирішує проблему онтології.
Якщо маєте бажання порівняти підходи на практиці, а не в коментарях: давайте оберемо тему, ціль — і порівняємо результати генерації ШІ на вашому промпт-інжинірингу та на структурованому контексті. Згода?
Автор ділиться результатом дослідження, а поверхневі оцінки чи абстрактна «інша думка» без аналізу це дослідження просто руйнують.
Тому якщо щось залишилося незрозумілим — чекаю на конкретні запитання по суті. З радістю відповім
Якщо щось не зрозуміле, то конкретизуйте, тоді буде предмет для відповіді, а стаття у відкритому доступі. З повагою!
Читайте також: Проблема «Курка чи яйце?» у розробці ігор
Згоден з вами: для простих задач і швидкого прототипування метод «заглушок», ітерацій та підбору слів працює чудово. Але як тільки система зростає, нагромадження заплат призводить до системного збою — і невідповідність контексту заганяє в кут.
Саме для того, щоб не опинитися в цьому куті на масштабі, і потрібна семантична структура. Дякую за дискусію, з повагою!
Ну так спочатку треба згенерувати сам промпт. Попросити модель задати уточнюючі питання з приводу задачі, якщо якісь нюанси можна тлумачити неоднозначно. Скорегувати промпт за потреби. А потім вже використовувати згенерований промпт.
Це спілкування в довгу, треба інакше, наприклад: тема і визначення сенсу, далі вже простіше і коригування має інший важіль у відповідній відповіді.
Генерація промпту через уточнюючі питання створює ілюзію контролю. Але виникають фундаментальні питання:
Час і критерій: Скільки ітерацій потрібно і яка саме відповідь вас влаштує? З чим ви порівнюєте результат ШІ, якщо еталонного критерію немає?
Втрата цілі: Де ваша ціль, стратегія та межі (обсяг) інформації під час цих уточнень? Чи відповідають самі питання вашій початковій стратегії, чи ШІ просто відводить вас убік?
Без семантичної інженерії ви порівнюєте галюцинацію ШІ зі своїми суб’єктивними очікуваннями.
Семантична інженерія дає еталонний каркас (онтологію). Тоді коригування — це не нескінченний діалог, а швидка звірка результату з фіксованою матрицею знань
Головна помилка багатьох — це намагання «вимолити» з ШІ адекватну відповідь через постійний штучний мозковий штурм та нескінченне шліфування промптів.
Важливо усвідомити: ШІ — це не «мозок», а спрощена машинна прогнозована відповідь (обчислювальна база даних, яка прогнозує наступний крок на основі контексту). Запит сам по собі нічого не створює, якщо в ньому немає чіткої структури.
Завдання людини — створити просторовий семантичний інтерфейс інформації, який є однаково зрозумілим і для нас (людина розуміє предметну область), і для ШІ (як структуроване джерело для прогнозу).
Коли людина правильно організувала структуру знань — машинний прогноз стає точним за замовчуванням, а галюцинації зникають. Проблема не в тому, «як попросити», а в тому, «як ми структурували інформацію».
Хто у своїй практиці вже перейшов від «підбору слів» у промптах до проектування таких семантичних інтерфейсів?
Ми за інший спосіб спілкування з ШІ, бо промпт інжинирнг трохи не те що треба. З повагою!