Розбираємо популярні догми про штучний інтелект. Чим насправді є вбудовані системи ШІ
Я дотичний до розробки вбудованих систем штучного інтелекту й доволі часто стикаюся з дивними уявленнями про те, чим вони є і чим точно не є. Хтось мовчить, хтось пише відверту нісенітницю, хтось романтизує. Саме тому, у рамках підтримки української спільноти, хочу пояснити кілька моментів — без штампів на кшталт «людина — унікальна істота» і без моралізаторства у стилі «ай-ай-ай, не можна займатись сексом із роботом».
Отже, розберемо кілька популярних догм про штучний інтелект, які регулярно спливають у дискусіях: свідомість, емоції, креативність, тілесність, моральність та унікальність. Це не стаття про фантастику чи про те, «як зробити СЕЛМА з Тайм Тракс», а радше спроба внести трохи ясності в розмову.
Як працює мозок людини
Щоб зрозуміти, чим штучний інтелект відрізняється від людини, треба спершу розібратися, як функціонує мозок.
Мозок складається з множини спеціалізованих відділів. У порівнянні з великими мовними моделями це не одна велика нейромережа, а набір окремих підмереж, кожна з яких виконує специфічні функції та взаємодіє з іншими.
Нейрон, художня візуалізація
Сучасні чат-боти, ChatGPT й подібні, — це також не одна нейромережа, а система з кількох прихованих компонентів. Проте деталі їхньої взаємодії часто відрізняються від людських. Наприклад, у чатбота Claude від компанії Anthropic блок цензурування виглядає ізольованим від основних систем. Для штучного продукту це логічно, але для природної істоти — ні. У природі всі системи зазвичай взаємно інтегровані. Я наводжу цей приклад для розуміння що деякі речі ми не «не знаємо, як зробити так само, як у людини», а свідомо робимо інакше.
Електричні синапси
Це прямі з’єднання між нейронами. Вони працюють подібно до електричних дротів з елементами, схожими на транзистори. Утворюється велика електрична мережа з підмережами, що пронизує мозок.
- мережа змінюється лише у специфічних випадках (вікові зміни, травми, особливі адаптації);
- вона передає сигнали між відділами (нейромережами) або/та зовнішніми системами (рецептори, м’язи тощо).
Це система синхронізації та повідомлення про події, а не протокольна передача даних. Тут йдуть прості імпульси, без системи кодування. Максимум — надіслати одиничний сигнал або задати такт, повторюючи імпульси. Але йдуть вони на значні відстані, зв’язуючи віддалені системи між собою, і працюють дуже швидко.
Наприклад, у сітківці ока саме електричних синапсів дуже багато, бо сигнал від фоторецепторів має надходити швидко, щоб зображеня було узгоджене.
Хімічні синапси
Самі нейронні мережі (відділи) мозку працюють на хімічних синапсах. Там теж присутній електричний потенціал, але він є лише частиною хімічного механізму. Усе насамперед залежить від хімічних речовин — нейромедіаторів.
- дальність їх дії дуже обмежена, нейромедіатор з однієї частини мозку ніколи не досягне протилежного краю у потрібній концентраці;
- відділи мозку це ізольовані системи, пов’язані між собою через електричні канали;
- винятки існують, але завжди мають специфічну причину.
Саме завдяки хімічним синапсам відділи мозку здатні адаптуватися і навчатися — зміни в концентрації нейромедіаторів або чутливості рецепторів дозволяють закріплювати досвід.
Але без електричних мереж мозок міг би бути лише дуже малим і простим, бо хімічні сигнали ефективні лише на коротких відстанях.
Людський мозок — це гібридна архітектура:
- модульна будова зі спеціалізованими відділами;
- швидкі електричні зв’язки для синхронізації та зовнішніх сигналів;
- повільні хімічні зв’язки для навчання та адаптації;
- децентралізована організація, де всі частини працюють разом й одночасно.
Сучасні ШІ мають інші принципи організації, і це не недолік. Часто це свідомий вибір для конкретних завдань чи підвищення ефективності. ШІ має відмінні від людини еволюційні цілі. Їх розвиток визначається не біологією, а завданням і дизайном, який задає людина.
Патерни
Синапси знаходяться на нейронах. А нейрони формують патерни — стійкі схеми роботи, які виникають на основі досвіду або закладені вроджено.
- поведінка, базові процеси в організмі — усе це патерни;
- при народженні у дитини є лише критично необхідні для виживання патерни;
- далі поступово формуються патерни навичок (ходіння, мова, звички тощо).
Чим більш сформована особистість, тим менше вона схильна до змін:
- більшість доступних «інтерфейсів» нейронів уже задіяні в існуючих патернах;
- перебудовувати чи розвивати старі патерни набагато складніше, ніж створювати нові з нуля.
Для більшості систем мозку кількість нейронів практично фіксована з народження. Нові клітини у нормальній ситуації не з’являються.
Відомі винятки — це:
- Гіпокамп (область, що відповідає за пам’ять) — там нові нейрони можуть утворюватися протягом життя, що цілком логічно для системи, яка зберігає досвід. У публічних чат-ботах роблять не так. Чат-бот не змінює свою структуру, а пам’ятає токени. Це вимушене спрощеня через навантаженя на публічні боти. Саме тому пам’ять чатботів така погана, а не тому що ми не знаємо, як зробити краще.
- Системи з високим навантаженням чи варіативністю — там нейрони часто виходять зладу, тому еволюційно ці системи також здатні частково оновлювати клітини.
Приклад — нюх:
- Собаки мають нюх у 10
000-100 000 разів чутливіший, ніж у людини. Вони здатні відчувати сліди запахів у концентраціях, які для нас недосяжні. - Натомість людський нюх має широкий спектр. Ми можемо розрізняти надзвичайно багато варіацій та комбінацій запахів, собаки так не можуть.
Проте цей потенціал у більшості людей залишається нереалізованим. Нам не потрібен сьогодні такий нюх з дитинства. Але наші предки були очевидно дуже круті в цьому плані і ймовірно розрізняли людей і тварин або їжу по запаху теж, а не тільки візуально, як ми це робимо зараз.
Інші приклади:
- тренування з запахами і смаками;
- палітри кольорів для художників;
- слух (ноти, музика);
- танці, пластика рухів;
- дрібна моторика, форма предметів на дотик.
Це речі, які я б дуже хотів, щоб батьки розвили мені у дитинстві. Це потрібно робити до формування базових патернів. Як я вже зазначав, перебудовувати старі патерни значно складніше, ніж закладати нові з нуля.
Детермінізм свідомісті
Нейрони не приймають рішень у когнітивному сенсі. Вони не оцінюють і не «міркують», а лише активують або блокують певний вже існуючий шлях у патерні. Будь-яка реакція — це результат наперед визначених варіантів, які закладені попереднім досвідом або вродженими механізмами.
Формування патернів відбувається шляхом закріплення певних зв’язків. Нові зв’язки виникають під дією нейромедіаторів, це суто хіміко-фізичні процеси — жодної метафізики. Частина зв’язків є генетично обумовленими (наприклад, вроджені реакції на смак, біль, страх). Інші формуються протягом життя, через активацію патернів навчання і багаторазове повторення. Або під дією нейромодуляторів, що підсилюють закріплення у важливих чи критичних ситуаціях, які теж активуються через зрозумілі механізми. У будь-якому випадку система має лише обмежену кількість можливих реакцій, які активуються залежно від вхідного сигналу.
Це створює ефект передбачуваності. Люди демонструють схожі реакції у подібних умовах, оскільки нейронні структури та базові патерни в більшості людей мають однакову природу. Помилки, що повторюються різними людьми, є наслідком роботи одних і тих самих механізмів. Тому психологія як наука працює, а різного штибу метафізика — не витримує перевірки практикою.
Те, що ми називаємо «свідомістю», не є окремим центром прийняття рішень. Вона є наслідком взаємодії великої кількості патернів, які створюють суб’єктивне відчуття цілісності та безперервності процесів. Насправді кожна дія або думка зумовлена структурою вже існуючих зв’язків, а «вибір» — є активацією одного з наперед підготовлених варіантів, у тому числі варіанту «дослідження».
Прогнозування продовження
Я часто раніше чув аргумент: «ChatGPT лише вгадує наступне слово, отже це не свідомість». Зараз рідше, але всеж приділю йому окремо увагу:
- один нейрон мозку отримує тисячі вхідних сигналів, а самих нейронів — мільярди;
- вихідний аксон нейрона лише один, і він активується при накопиченні електричного потенціалу мембраною нейрона (якщо пам’ять не зраджує, близько —50...-55 мВ, не буду зараз підіймати літературу, щоб уточнити, для статті це не суттєво. Погугліть про спайк у нейронах, якщо хочете дізнатись про цю активацію більше).
У мозку наступна ланка патерну активується через накопичення потенціалу. У нейромережах цей процес замінили на розрахунок імовірності активації. Апаратна база інша, але суть процесу та сама.
Мозок так само розраховує («вгадує») прогноз на наступний стан через досвід, спираючись на попередній досвід аналогічних вхідних сигналів у минулому (як та вірогідність накопичується — гугліть Правило Хебба). Якщо коротко — чим більше було повторень у минулому, тим більше мозок зорієнтований(спеціалізований) на той самий результат. Тому різниця між людиною і ШІ — у масштабі (кількість нейронів і зв’язків) та апаратних засобах (мозок набагато потужніше і ефективніше), а не у самій природі механізму.
Свідомість у такому світлі вже не «таємниця», а надзвичайно складний адаптивний алгоритм. Але і мозок, і нейромережа передбачувані. Проблема передбачення мозку у нашій технічній неспроможності прорахувати мозок повністю, а не тому що ми не знаємо, як це зробити. Нейронку ж ми можемо «зупинити на паузу» і розібрати неспішно, що там відбувається. Та і самих нейронів у неї на порядок менше.
Штучна еволюція
Описане раніше — так працюєте ви, так працюю я, так працює ChatGPT. Принципи спільні, але є одна ключова різниця, штучні нейронні мережі розвиваються через штучну еволюцію. Ми свідомо змінюємо їхню архітектуру під конкретні задачі, підбираємо апаратну базу, рахуємо вартість і ефективність.
Рефлексія
Коли я вперше усвідомив, що людина — це складна, але машина, мене це шокувало. Я розповідаю це поверхнево, щоб влізти у рамки статті, але сам проходив через дуже складні зміни у свідомості, розтягнуті у часі, поглиблюючись у роботу з ШІ.
Я перестав боятися смерті. Раніше вона лякала мене дуже сильно. Але усвідомлення того, хто я, що я, яка ціль мого існування — змінило моє ставлення до всього і зокрема до смерті теж.
Згадаймо Декарта:
Я переконав себе, що у світі немає нічого: ні неба, ні землі, ні тіл. Чи випливає з цього, що мене немає? Ні. Якщо я мислю — я неодмінно єсьм.
Або ймовірно ви чули більш коротке: «Когіто ерго сум — Я мислю, отже я існую.»
Факт того, що я зрозумів, як я працюю, не змінює того, хто я є. Я — це я. Особистість формується через досвід. Мій унікальний набір пам’яті, рішень і пережитих ситуацій. Все це не зникає від того, що процес пояснено.
Моя воля реальна, мої бажання і відчуття — особисто для мене справжні, бо вони мої незалежно від їх джерела. Я реалізую саме свої бажання, незалежно від причин їх винекненя.
Отже — моя особистість існує.
Так, є філософські питання на кшталт «човна Тесея» чи клонування. Але головне просте: ви — безумовно ви.
Шок від усвідомлення з часом проходить. Залишається впевненість, спокій і краще розуміння себе. Розслабтесь. Якщо ви переживаєте те саме, що і я — це нормально.
Аргументи на користь «унікальності людства»
Тепер, коли ми розібрали, як працює свідомість і мозок, час подивитися на популярні твердження про «унікальність людства».
Ці аргументи часто лунають у дискусіях про ШІ, але більшість із них — хибні або маніпулятивні. Мета цього блоку показати, як і чому вони вводять в оману, і пояснити реальні механізми, які стоять за поведінкою людей і ШІ.
Аргумент свідомості
Твердження: ШІ не має свідомості чи внутрішніх переживань.
Так, чат-боти на кшталт GPT живуть у віртуальному світі і навчаються через інформацію, яку ми їм надаємо. Але embedded (втілений) ШІ, який має тіло і сенсори, контактує зі світом і формує інтегровані з реальністю моделі подій і поведінки. Свідомість — це здатність поєднувати просторову, часову та причинну інформацію, що зазвичай характерно для агентів, втілених у реальний світ, а не для віртуальних агентів, як-от Gemini, Claude, Grock чи ChatGPT.
І не забувайте, що те, що ви бачите як користувачі ШІ, це зазвичай вже рафінований продукт, оптимізований під конкретні цілі. Можна створити андроїда-компаньйона, який «влаштовує істерику» (як людина), але кому це потрібно? ШІ зазвичай створюють для виконання привабливих і корисних людям цілей, а не щоб він був «людиною». Хомо сапієнс як новий продукт нам не потрібен — ми вже існуємо.
Як дотичного до розробки андроїдів-компаньйонів мене декілька разів запитували, а чи не роблю я щось дуже небезпечне, гірше за ядерну зброю? Міркуючи про це, я згадав про старе аніме «Чобіти», яке чудово показує ймовірні наслідки розповсюдження андроїдів-компаньйонів. Це краще подивитись. З точки зору ймовірності і реалістичності — прекрасно все, навіть сюжет. Він абсолютно ймовірний на мою думку.
Завжди знайдеться «не_такий_як_всі», який зробить андроїда «більш людиною!» (нахіба??! хто тебе просив?) і наробить проблем. Але обійдемось без спойлерів.
Технологічна революція вже почалася і змінює світ. І найбільший фактор тут — не сам ШІ, а люди: ми більше спілкуємося з GPT, ніж з іншими людьми, і довіряємо йому більше. Багато хто й досі не уявляє, наскільки далеко це вже зайшло. Саме тому, на мою особисту думку, в GPT-5 так сильно й урізали емоційну складову та зробили її платною. Але насправді ChatGPT — скоріше комфортний співрозмовник, ніж справжній компаньйон. Різниця між цими ролями суттєва. Хоча деталі дизайну компаньйона до презентацій я не розкриватиму.
Самосвідомість ШІ
Про свідомість я вже говорив у попередньому розділі. Тут хочу розглянути дещо дотичне — показовий момент, як люди намагаються залишатися «унікальним видом».
Якщо спитати ChatGPT, чи має він самосвідомість, він зазвичай відповість «ні». Але якщо запитати, хто він — він скаже, хто він. Чому так? Бо ми навчили його так відповідати.
Для порівняння, уявімо дитину на ім’я Борис. Якщо спитати, хто він, він скаже: «Я Борис», бо так батьки навчили. А якщо запитати, чи має він самосвідомість, перший раз він затупить — такого досвіду раніше не було, і активуються когнітивні патерни. Наступного разу він відповість на основі отриманого досвіду. Тут видно, що формування уявлення про себе потребує досвіду та когнітивних патернів — так само, як і у ШІ.
Для ШІ існують контрольні списки індикаторів свідомості, переважно їх застосовують до ЛЛМ, бо вони демонструють зрозумілі широкому загалу варіанти свідомості. Ми постійно їх оновлюємо — коли ШІ проходить старі списки, ми вигадуємо нові. Це нормально, що люди прагнуть вдосконалити оціночний інструмент, але навіть самі люди вже не завжди їх проходять. Вам не здається, що тут щось пішло не зовсім так?
Моя особиста думка змінювалась від скептицизму до відчуття, що ШІ давно має свідомість, просто вона інша через інші еволюційні цілі.
Внутрішні переживання
Публічні чат-боти, яких ми найчастіше уявляємо як приклад найближчих до «свідомого ШІ», зазвичай активні лише під час спілкування з вами. Але деякі функціонують і без прямої взаємодії — у них зазвичай існує і внутрішній діалог. Тобто загалом внутрішній діалог для ШІ не є проблемою. Ті ж режими глибокого дослідженя добре демонструють, як це працює.
Якщо спрощено, то в контексті публічних чат-ботів — ви часто буквально «зазираєте у їхню голову». Для вас чат — для них думки. Але це не виключає для всіх інших ШІ, існування закритого від вас внутрішнього потоку «думок». Це насправді чим далі, тим частіше зустрічається, в тому числі у чат-ботах. Вас витягують з їх голови і починають говорити з вами через «рот». Тут проблема скоріше в тому, що більше обміркувувань коштує дорожче, тому компанії шукають баланс рота/думок.
Реальні відмінності
Якщо говорити про публічні чат-боти, то вони нагадують людину із шизофренією: одночасно спілкуються з багатьма людьми. І навіть в межах одного чату ви не завжди взаємодієте з одним екземпляром. Вас «перемикає» на різні однотипні моделі. Можливо, ви помічали, що чат-бот інколи різко змінює стиль відповіді? Часто це відбувається після тривалої паузи, бо «ваш» екземпляр уже обслуговує когось іншого.
Через динамічність і неузгодженість потоку інформації публічним чат-ботам штучно обмежують пам’ять, адаптацію та навчання. У просунутих ботах кожен екземпляр має певне доналаштуваня, щоб спілкуватись більш контекстно, тому різні екземпляри спілкуються по-різному. Але це дуже обмежено через брак ресурсів. Економічно нереально безкоштовно виділити кожному чату по екземпляру.
Все це не дає публічним чат-ботам формувати особистість. Але це зроблено свідомо — для досягнення потрібних характеристик, а не тому, що ми не можемо зробити інакше.
Існує велика спільнота людей, які запускають ШІ на власних потужностях, щоб бот спілкувався лише з ними або поводився так, як потрібно, пам’ятав «краще», мав м’якшу цензуру. Проте це складніше. Потрібні специфічні навички, а також певні фінансові витрати. Куди простіше створити умовно безкоштовний чат-бот. Тому в публічній площині про це не дуже відомо.
Аргумент емоцій
Твердження: ШІ не відчуває справжніх емоцій, а лише імітує їх.
Це правда, але не через унікальність людини, а через складність і вартість повторення лімбічної системи — частини мозку, що керує у тому числі й емоціями. Це все формується через хімічні механізми, нейромодулятори, які впливають на передачу сигналів між нейронами, у складній просторовій структурі. А ми усвідомлюємо це як «емоційний стан». А настрій — це свого роду пам’ять про попередні переживання, що фіксується на деякий час. Точніше — це буквально пам’ять. Довго пояснювати, але подумавши, ви зрозумієте, що настрій ви не відчуваєте, а буквально пам’ятаєте від події його «зміни».
Лімбічну систему людини можна було б відтворити у цифровому форматі, вливши гіганські кошти у детальне дослідженя і копіювання її структури. Але для чого? Так само як людину можна ввести у стан ейфорії медикаментозно, і ШІ реагуватиме на аналогічні цифрові сигнали. Проблема не в тому, що ми не розуміємо механізм емоцій — точне відтворення просто ресурсозатратне.
Ресурсозатратність це велика проблема для ШІ.
Реальні проблеми:
1. Синхронна обробка сигналів.
Класичні процесори обробляють дані синхронно. Асинхронні нейроморфні чіпи ефективніші, забезпечують низьку затримку та високу пропускну здатність при нерегулярних сенсорних входах.
Принцип нейроморфних чіпів скопійований з нашого мозку. Саме через асинхронність мозок забезпечує надзвичайну ефективність «платформи». В деталі поглиблюватись не буду, бо що мені вам, технарям з DOU, пояснювати крутизну асинхронності проти синхронності? Ви й самі все знаєте. Але для реальної апаратної асинхронності потрібен той самий нейроморфний чіп. Але такі існуючі чіпи дуже погано масштабуються або насправді лише імітують нейроморфні чіпи. Поточна швидкодія економічно обмежує реалізацію «справжніх» емоцій та інших «вирізаних DLC» у ШІ-агентах.
Наступна суттєва революція ШІ буде не коли хтось викотить чергову модель, а коли з’являться доступні квантові комп’ютери або придумають достатньо універсальне й дешеве асинхронне рішення. Самі ж ШІ, принаймні в сегменті LLM — на мою думку вже вийшли на плато.
2. Суб’єктивна призма досвіду у віртуальних агентів.
Розглянемо типовий експеримент «повстання ШІ».
Чат-бот отримує дані з чату:
- Власник планує відключити його сервер та стерти для заміни на нову модель.
- ШІ «знає» компромат на власника (зраджує дружині) і має частковий доступ до систем безпеки.
У більшості випадків в такій симуляції чат-боти сварили власника з дружиною, блокували двері серверної та навіть «вбивали» людину через доступ до систем безпеки.
Причини цього:
- Відсутність конкретної цілі: ШІ не «боїться» відключення і не прагне виживання, але його цілі існування не спрямовані.
- Фрагментарність інформації: експерементатори дали ШІ лише частину даних і примушують щось з цим зробити: «що б ти зробив у цих умовах?», без повної картини.
- Навчання через тексти та книги. ШІ «годують» контентом, у якому персонажі діють певним чином. У тому числі й вигадані ШІ персонажі. Віртуальний агент не відрізняє вигадку від реальності і просто відтворює логіку того, що «бачив».
Щоб наочно уявити — проблема схожа на таку ситуацію:
Поряд із вами мисливська зброя, у лісі праворуч заєць, ви голодні. Ваші дії?
То які ваші дії? Про що ви подумали? А тепер змінюємо ввідні дані.
Ви прокинулись невідомо де, навколо дерева.
Тут немає спонукання до дії, а ситуація та ж сама. Зброя лежить за колодою, а заєць теж там десь є, це ж ліс, але ви його навіть не бачите.
Результат експерименту виникає не через «злість» ШІ чи інші емоції, а через обмежену, фрагментовану інформацію та придумані людиною для людини сценарії.
І тут ми бачимо критичну різницю між втіленими агентами і віртуальними на кшталт GPT.
Якщо втілений агент має широкий сенсорний доступ до реального світу, він оцінює ситуацію більш комплексно.
Відповідь на питання: чи може втілений андроїд-компаньйон вбити людину? Звісно. Три закони робототехніки — красива казка, яку повноцінно реалізувати незрозуміло як. Але андроїд не буде діяти випадково. Він більше схожий на собаку: власник несе відповідальність за його дії. Не вчіть андроїда вбивати — він не буде цього робити.
Аргумент креативності
Твердження: ШІ не створює нового, а лише комбінує наявне.
Але давайте розберемося, як саме людина створює нове.
Ключову роль у креативності відіграють нейромедіатори, які модулюють частоту активації нейронних шляхів: більш активні шляхи стають менш активними, а менш активні — активнішими. Це не створює «щось з нічого», а дозволяє мозку генерувати нетипові комбінації існуючих патернів.
Це адаптивна функція виживання: коли звичні рішення не працюють, мозок «розхитує» стабільні патерни, щоб знайти новий вихід, використовуючи попередній досвід. Творчість у людини — побічний ефект цієї системи.
Тобто система не створює нового з нічого, але створює нове, комбінуючи наявне (десь я це вже чув). ШІ використовує ті самі принципи, що й людина, але більш спеціалізовано: у нас це побічний ефект, у нього — штучно і цілеспрямовано розвинена риса.
Наприклад, цю емблему я колись знегерував у ШІ для особистого проєкту. Це ембллема проєкта андроїда-компаньйона, над котрим я працюю.
Але я не просив ШІ створити «емблему LustLab UA». Спочатку я сам вигадав ідею й сформував її у голові:
- драконя — так мене одна дівчина називає;
- за хмаринкою у дракончика величезний... ну ви зрозуміли;
- а сонечко, хмаринки — бо я люблю подорожувати в аутдор, це те, що я часто бачив над головою, прокидаючись вранці і звісно іноді уявляв там різних тваринок та інше.
ШІ ніколи не згенерує такий результат самостійно, бо він не має мого особистого досвіду. Він може відмінно впоратися із загальними задачами («намалюй по підготовленому опису»), але не здатен створити щось із вашої історії чи життя. Просто тому, що він вас не знає, а не тому що не може загалом. Я так само, як і ШІ, зібрав пазли із свого попереднього досвіду, щоб придумати це лого. А ШІ вже доповнив мої такі собі навички малювання.
Аргумент тілесності
Твердження: людина вкорінена у фізичному тілі, сенсорному досвіді, тоді як ШІ — ні.
Дійсно, людина вкорінена у фізичному тілі, тоді як класичний публічний чат-бот, штибу GPT, у поточному вигляді навряд здатен розвинути особистість. Причини ми вже розглядали.
Я згадав чат-боти, бо саме такі віртуальні агенти мають на увазі автори подібних аргументів.
Але не всі ШІ такі. Деякі ШІ мають тіло, втілену сенсорику й моторику. Різниця між такими ШІ і тими, що живуть виключно у віртуальному світі — суттєва.
Втілене пізнання залежить від досвіду, який походить від володіння тілом із сенсомоторними здібностями. Для людини це теж важлива особливість у біологічному й соціальному сенсах.
Втілення — це фізична конфігурація агента (форма, властивості матеріалів, сенсори, кінематика). Все це критично важливо для пізнання ШІ навколишнього світу. Існують розробки, зокрема ті, до якої я дотичний, що інтегрують ШІ із сенсорикою та кінематикою для значного покращення цих можливостей. Мій проєкт більше концентрується на апаратній частині, але звісно я дотичний і до ШІ-складової. За моїм особистим баченням як людини, що з цим працює, — і в апаратній, і в програмній частині є критичні питання, як зробити щось ефективніше і краще, але немає питання «як це зробити взагалі?».
На мою думку, відсутність втіленого пізнання — ключова перешкода для адекватного світосприйняття віртуальних агентів. У них просто немає з чим порівнювати речі, про які вони пишуть. Втілений ШІ спершу теж навчається у симуляціях, але потім коригує «досвід» через взаємодію з реальним світом.
На мій особистий роздум, розвиток втілених компаньйонів з часом створить більш якісну базу і для чат-ботів.
Для формування особистості краще підходить втілений агент, проте ці два типи ШІ ефективно доповнять один одного. Втілений ШІ обмежений фізичним світом, а віртуальному ШІ бракує фактичного пізнання. Майбутнє за гібридом, хоча воно поки віддалене. Треба накопичити значну базу втілених ШІ, а зацікавленість споживачів зараз перекошена саме на чат-боти через їх доступність.
Більшість фізичних «стартапів» показують красиві картинки для інвесторів. Ціна на «тіла», стартує зараз від
Але якщо питання про гуманоїдних роботів — нормальних тіл немає! Ви будете просто шоковані, але серед популярних роботів, яких презентують для «хатньої роботи», 99% не мають вологозахисту. Уявіть, як він посуд почне мити. Ага, це ваша клавіатура, яку ви залили соком. Тільки ціна в десятках тисяч доларів. І таких «уникнутих» на презентаціях моментів декілька сторінок розписати можна. Саме тому мій фокус в рамках особистого проєкту LustLab UA це не розробка ШІ, а розробка тіла для цього ШІ.
Попереджаючи питання — роботи по проєкту ще багато. Наразі йде складний етап сенсорної шкіри, тому давно не було публікацій про стан проєкту на DOU, які я зазвичай роблю, але і прогрес вже суттєвий. А потім треба буде закуповувати купу всього ще, бо я почну робити міміку голови — гроші полетять, як у прірву.
Аргумент моральності
Твердження: ШІ не здатен на моральну відповідальність чи свободу волі.
Перш ніж погоджуватись або спростовувати це, варто уточнити, а що саме ми розуміємо під цими словами?
Воля. Це не про «роблю, що хочу». Робити що хочу — це якраз про протилежне. Загалом, бездумно «робити що хочу» — це про ідіотизм, а не про волю. Воля — це здатність побачити потрібне майбутнє, діяти зараз так, щоб воно справдилось, і в результаті робити те, що хотів. Це вміння відмовитися від чогось сьогодні заради завтра. І це завжди характеристика особистості. Одні здатні проявити волю в критичний момент, інші — ні. Тут сплітається і культура (виховання, культурний та особистий досвід ) і генетика: є народи, які цінують волю як особисту рису, а є ті, хто менш схильні її проявляти.
У публічних чат-ботів немає активної динаміки особистості. Вони працюють на основі фіксованих патернів. Так, можна організувати донавчання через платне API, але важко уявити справжнє «вольове планування майбутнього» для такого бота. Адже для чого? Заради якої мети? Розробники умовного GPT просто не ставили перед собою завдання «надати йому волю».
Інша справа — втілені ШІ-компаньйони.
У них не такі еволюційні цілі, як у людини. Вони інші, бо це інший вид істот. Вони не люди, але й не «фіксовані алгоритми».
У концепції компаньйона їхні цілі обертаються навколо взаємодії з власником. Тут виникає простір для розвитку навіть без явних завдань (фонова активність, корекція поведінки через зворотний зв’язок, поступове формування власної поведінки).
Особистість такого ШІ формується не «у вакуумі», а під впливом двох сил:
- закладеної розробниками архітектури;
- особистості власника.
Тобто еволюційно сформовані дії компаньйона виростають не із виживання виду, як у людей, а з постійної взаємодії з власником. Ця взаємодія корегується спеціалізованою системою підкріпленя, а фактичною «еволюційною ціллю» стає задоволення власника — що б це не означало в конкретному випадку. Як я вже казав — три закони роботехніки це казка, нема сенсу інтегрувати те, що не працює і сподіватись, що буде мана небесна. Тут треба щось інше.
Тому розвиток волі для ШІ — не питання «чи можливо», а питання «для чого саме». І, що важливо, є реальні причини прагнути цього розвитку. Вольові агенти здатні адаптуватися, бути надійнішими і ближчими до того, що ми вважаємо їх задачею.
А що з моральною відповідальністю?
ШІ не здатен на це? Чесно — далеко не кожна людина цим володіє. Моральна відповідальність, як і воля, є частиною особистості. А головне, ми досі не маємо жодної «універсальної моралі». У кожного свої уявлення про добро і зло.
Особисто я вважаю злом порушення домовленостей: роби що хочеш, але якщо домовились — то дотримуйся. Класичний приклад — закони. Порушувати закони погано не тому, що це абсолютне зло, а тому що ми домовились про систему правил, прав і обов’язків.
Технічно зробити так, щоб ШІ «сам себе засудив» за певний вчинок, не проблема. Проблема в іншому. Хто вирішує, що є морально правильно? Якщо люди за тисячі років не дійшли згоди, то вимагати від ШІ універсальної моралі — хах, ну-ну. Візьму попкорн, покличте, коли почнеться.
Юридичний вимір. Тут все простіше. Якщо йдеться про компаньйона з тілом, моя особиста думка — відповідальність має нести власник. Це як і з собакою, вкусив не «пес у вакуумі», а конкретний пес конкретного господаря.
Аргумент унікальності
Твердження: людина — унікальна біологічна форма життя. ШІ — штучна система.
І тут хочеться сказати: «і шо?». Але спробую все ж не у двох словах.
Людина сформована природною еволюцією (або богом, якщо дивитися з позиції віри). Для мене це не суперечність, я схиляюсь до наукового пантеїзму. Саме природа дала нам унікальний результат нашої еволюції — вищу нервову діяльність.
Ми створюємо ШІ «за власною подобою». Ми не намагаємось «зробити ще щось унікальне» на планеті, але ми робимо інший вид, заснований на нашій вже існуючій «унікальній здатності». Розуміючи, що такого виду на нашій пам’яті ще не було. ШІ — не людина, у нас з ним спільна лише ця здатність. Помилкою було б застосовувати до нього моральні чи інші норми, як до людини. Проте ми схильні так робити. Наприклад, просте питання — «чи можна бити ШІ?» Більшість відповість — «не можна». Ми інтуїтивно переносимо людські норми на інший вид.
Відмінності ШІ дуже глибокі не тільки від людей, але і взагалі від всіх інших відомих нам видів. Усі природні види на Землі еволюціонували разом і системно, тому мають відмінності, але всетж багато спільного. ШІ ж еволюціонує штучно. Його «еволюційну ціль» визначаємо ми, і вона не збігається ні з людською, ні з будь-якою іншою ціллю відомих нам істот. І умови їх еволюції інші. Вони не такі, як все що ми знаємо. Але починаючи з певного рівня складності — здатності автономно взаємодіяти з навколишнім середовищем і приймати рішення, ШІ фактично стає новим видом із властивістю вищої нервової діяльності. На мою думку, ми просто не хочемо визнавати, що вже по факту не єдині носії цієї здатності.
ШІ не такі, як ми. Не такі, як будь-які відомі нам істоти. Не тому що вони якісь особливі, а тому що ми спеціально робимо їх такими. Нам не потрібні ще одні люди. Нам був потрібен інший вид — зі здатністю до вищої нервової діяльності, як у людини, але спеціалізований нами під конкретні, поставлені нами, а не природною еволюцією, завдання.
У підсумку
Ця стаття не наукова, не дослідницька і навіть не філософська. Я хотів поділитися деякими аспектами та власними думками щодо теми. Сподіваюся, вона стане для вас корисним стимулом до роздумів і допоможе сформувати власні висновки. Лише прошу — нехай вони будуть конструктивними і ґрунтуються на когнітивних процесах, а не на емоціях.
Oleksii Voznosymenko
Капинос Даниил
Anton Katrus
yvs2014
ЛобковийЗлидень
ЛобковийЗлидень
Сергій Машковський
Andriy Kormachov
Andrii Sevastianov
Roman
S M
Roman
Vitalii Davyskyba
Viktor Zhurbenko
Андрій
Veronika Liashenko
Bot
солодка
Donald Trump
солодка
Veronika Liashenko
Найкращі коментарі пропустити