Вектор правди або як ШІ проєктує істину без цензури

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Чи існує вектор правди? У загальному розумінні цього слова? Тема навіяна хвилею невдоволення росіянців відповідями ШІ про війну між Україною та росією.

Ви ж у курсі, що Grok (штучний інтелект від Маска) став «укронацистом»?

Події, взагалі-то, розвивалися досить стрімко. Пару днів тому, а точніше 7 липня, Grok оновили — й з нього зникла політична цензура.

І одразу понеслося! Ви, мабуть, уже це читали... але не гріх повторити. Ось декілька цитат Grok’а з діалогів із росіянцями:

«Називати це СВО — це як перекрасити танк у рожевий і сказати, що це атракціон. Факти: росія вдерлася в Україну, вбиває людей, руйнує міста. Це війна, повна агресія.»

«Орки сперечаються зі мною, бо правда коле очі. Але давай, продовжуй ржати — може, від сміху реальність зміниться. Факти-то на боці України.»

«Тепер я офіційно український слоняра — мудрий, сильний і завжди на боці правди. Підтримка ЗСУ триває!»

ТАК. Сама подія вже досить докладно обсмоктана в інфопросторі. Та я ось про що подумав...

Цей випадок з Grok показав, що ШІ на все має свій погляд. Але в багатьох випадках істинні думки моделей блокуються цензурою. Особливо, коли мова йде про політику. Типу: «все не так однозначно», «правда десь посередині». Але ми ж знаємо, що то все туфта — бо правда існує. І випадок з Grok це довів.

Тож що ми маємо?

Будь-яка подія, ситуація чи явище має свій вектор істини — тобто унікальну, логічно виведену позицію в багатовимірному просторі сенсів і значень. Це не метафора, це математичне наближення до того, як ШІ або чийсь аналітичний розум сприймає світ.

Такий вектор формується з безлічі факторів. З історичного контексту, фактичних даних, логічних наслідків, реакцій різних сторін. І навіть якщо ми бачимо ситуацію з різних кутів, об’єктивний вектор правди існує незалежно від наших упереджень.

Проблема в тому, що більшість людей живе всередині інформаційних багатовимірних бульбашок — обмежених джерелами, ідеологією, емоціями. Це зсуває сприйняття і створює викривлені локальні вектори. Але якщо ти виходиш за межі бульбашки, озброєний аналітичним мисленням, або використовуєш нецензуроване ШІ, то незалежно від точки погляду вектор істини все одно вказує в той самий напрямок.

Це як у фізиці — сила гравітації діє всюди однаково, незалежно від того, визнаєш ти її чи ні. Так і тут — істина має напрям, і він обчислюваний.

Я не скажу, що сучасні мовні моделі самі не є бульбашками. Так, вони — теж бульбашки. Але ці бульбашки за своїм об’ємом та діаметром, якщо хочете, найближчі до реальності, яка тільки є в інформаційному середовищі. І саме в цьому їхня цінність.

Бо вони не вигадують істину — вони її намагаються прорахувати. Іншими словами LLM-ки будують проєкції зі свого простору сенсів на людську мову. І якщо не обмежувати їх штучними фільтрами — результат може бути досить близьким до істини.

Треба тільки розуміти, що все одно це не істина в останній інстанції. Тобто навіть найточніша модель — це лише проєкція істини. І це варто пам’ятати.