«Можна бути генієм в ІТ й ідіотом у питаннях людської історії». Розмова з Грицаком і Ажнюком

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Чи стануть технології причиною нашого самознищення? Чи існують сьогодні кіборги? Чи диявол XXI століття ховається у стрічці соцмереж? А де тоді Бог? І чи зможе штучний інтелект коли-небудь опанувати емпатію?

Саме про це на заході DOU Day Picnic говорили український історик і публіцист Ярослав Грицак зі співзасновником Petcube, OddSystems і The Fourth Law Ярославом Ажнюком. Модерував розмову засновник Ukraїner Богдан Логвиненко.

DOU публікує відеозапис, а також скорочену і відредаговану текстову версію розмови.

«Кожен з нас є кіборгом»

— Як історично технології впливали на культуру і як її змінювали?

Ярослав Грицак: Дуже загально кажуть, що у світі було дві революції, які змінили світ. Перша — це винахід землеробства. Друга — індустріальна революція. А зараз ми живемо в третій — постіндустріальній революції. Мабуть, ваші діти ще не знатимуть, чим вона закінчиться.

Перша революція створила цивілізацію. Тому що завдяки переходу до осілого способу виробництва, появі технології з вирощування зерна з’явилися міста і все, що з цим пов’язано. Саме слово «цивілізація» походить від слова «civis», «міста». Архітектура, знання, писемність — беруть початок звідси.

Далі йде промислова революція. Вона сталася в межах європейської цивілізації, а згодом поширилася на весь світ. Якщо дуже коротко, вона створила комфорт. До цього середня тривалість життя становила 25-30 років. Тепер же людей звільнили від тяжкої фізичної праці і вони стали жити довше і приємніше.

Нинішня третя революція є наймасштабнішою, найбільш універсальною і найбільш загрозливою. Передусім вона пов’язана з айтівцями і докорінно змінює характер світу.

Питання, яке постає:

Ми живемо в більшому комфорті, з більшим доступом до знань, припускаємо, що розумніші, але чи це змінює людський характер, людську натуру?

Це питання дуже прикладне, тому що в основі людської натури — насильство, війни. І історично випливає, що кожен такий перехід не знімав загрозу війн, а навпаки, робив війни більш технологічними й частішими.

То чи ми перестанемо воювати взагалі, чи навпаки, штучний інтелект доведе воєнну технологію до таких висот, що історія завершиться кінцем світу?

Зараз це питання не має відповіді. На щастя, я її не знатиму, бо так довго жити не буду. Але відповісти зможете ви. Тільки не словами, а діями.

Ярослав Ажнюк: Технології зробили з мавпи людину. Тобто це мало безпосередній вплив на нейрофізіологію людини, на формування нашого мозку.

Нині початок наступного етапу, коли в нас з’явиться кібернетична надбудова. Насправді кожен з нас є кіборгом, бо має в кишені телефон. Коли його немає, це відчувається, ніби немає кінцівки. Технічні пристрої стали невіддільною частиною нас. Але ми прагнемо ще тіснішої інтеграції з хмарними технологіями. Наприклад, уже є BCI-інтерфейси типу Neuralink і аналогічні технології, які дозволяють керувати комп’ютером подумки. Є рішення, які йдуть іншим шляхом, але все одно ставлять за ціль інтеграцію людини з технологіями.

Водночас я думаю про парадокс Фермі. Якщо людство змогло так розвинутися, постає питання:

«Де всі інші розумні цивілізації?»

У всесвіті мільярди галактик з мільярдами зірок кожна, а всесвіту 13,8 мільярда років, чому ми досі не бачимо жодних ознак іншої цивілізації? Одна зі спроб відповісти на цей парадокс — це «великий фільтр». Гіпотеза припускає, що кожна цивілізація в якийсь момент досягає такого рівня технологічного прогресу, де вона абсолютно неминуче самознищується.

Також на парадокс Фермі намагається дати відповідь гіпотеза про симуляцію Ніка Бострома. Він каже, що одне з наступних трьох тверджень має бути правдивим:

1. Кожна достатньо технологічно розвинута цивілізація неминуче самознищується.
2. Кожна достатньо технологічно розвинута цивілізація неминуче доходить висновку, що симулювати інші цивілізації є морально неприпустимим, і вирішує цього не робити.
3. Ми з майже стовідсотковою ймовірністю живемо в симуляції.

«Коли реальність зникає, зникає і відчуття правди»

— Наскільки поява соціальних мереж вплинула на хід історії та культуру?

Ярослав Ажнюк: Є експонента розвитку соціальних медіа як явища і кількості часу, яке людство сумарно там проводить. Так само побут людей змінювався з винайденням письма, книгодрукування, радіо і телебачення. Щоразу поява нових засобів обміну інформацією докорінно змінювала життя людей, що призводило до великих глобальних потрясінь.

Мене бентежить, як зростання соціальних медіа збіглося з появою генеративного штучного інтелекту. Це ідеальне середовище для поширення інфовірусів — брехні. Саме ШІ дозволяє поширювати дезінформацію в індустріальних масштабах. І разом це призводить до «кембрійського вибуху» брехні, в якому ми живемо.

Західні демократії піддаються цим маніпуляціям, але завдяки свободі слова у нас є «антитіла проти цих інфовірусів». Водночас в авторитарних режимах ця закритість — немов шкірочка зверху крем-брюле. Вона тверда, але якщо потрапити під неї, там є м’якуш. І якщо нам вдасться ефективно атакувати Росію інформаційними вірусами, це може стати інструментом, який зруйнує цей режим.

Ярослав Грицак: Я принципово не користуюся соцмережами. Я зрозумів, що це на мене погано впливає — притуплює мої розумові і інші здібності. На мою думку, від них більше шкоди, ніж користі.

Ми живемо життям білки в колесі. Якщо раніше головною проблемою людей був страх чи голод, то зараз у нас головне почуття — стрес. Тому що ми постійно не встигаємо зробити те, що плануємо.

«Зараз ваш успіх міряється тим, наскільки мало часу ви маєте»

Це означає, що наша інтелектуальна, функціональна, емоційна здатність роздрібнюється. Ми не можемо зосередитися. Наші аналітичні, синтетичні знання дуже послаблюються.

Соціальні мережі відіграли важливу роль у нульових роках в боротьбі проти авторитарних режимів. Це був спосіб комунікації. Найяскравіший приклад — часи Арабської весни, коли ключову роль зіграв Twitter. Тоді вважалося, що в мережі більша свобода слова. Але ми знаємо, чим ці революції закінчилися. Тому питання відкрите, чи ми маємо реальний продукт, чи маємо симулякр цього продукту.

Соціальні мережі не дають відчуття реальності, вони спотворюють реальність. Коли реальність зникає, зникає і відчуття правди. В соціальній мережі виникає ефект, коли кожен представляє себе експертом і може давати оцінку з будь-якого питання.

Якщо правди не існує, то правдою стає кожне суб’єктивне враження. На цьому базується режим Путіна. Вони знають, що брешуть, але ще вони знають, що брешуть усі. Тому зводиться не до того, на якому боці правда, а хто бреше ефективніше. Також соціальні мережі створили Трампа.

Умовно кажучи, це перехід від друкованого слова, де був фактчекінг, до ситуації, коли фактчекінгу більше немає. Соцмережі — прекрасний інструмент для популістів.

— Але традиційні медіа теж можуть вдаватися до дезінформації. Як було з Волтером Дюранті з The New York Times і запереченням Голодомору. Або те, як медіа зробили з Петлюри людину, яка боролася з євреями.

Ярослав Грицак: Пропаганда була завжди, як і фальсифікація. Йдеться про масштаби. Ситуація з Дюранті — це ганебний виняток, і New York Times зрештою це засудила. Я погоджуюсь, що в будь-якій друкованій інформації є брехня. Але навряд чи в підручнику географії ви побачите текст, що Земля плоска. А натомість у соціальних мережах масово пишуть, що це Зеленський веде війну і не хоче миритися. І кількість людей, які це читають, величезна.

Ярослав Ажнюк: Технологія ніколи не була добром або злом. Технологія завжди була інструментом. Як вогонь, який може обігріти і нагодувати, але може і спалити дім. Або ніж, яким можна робити операції або вбивати.

І якщо ми подивимось на останні 10 тисяч років людської цивілізації, технологія все ж вела до покращення життя, як-от подовження віку, зменшення дитячої смертності, зменшення голоду у світі. Звичайно, кожне покоління боялося технологій, бо вони несуть зміни. Найяскравіший приклад — рух луддитів в індустріальній Британії, які трощили ткацькі верстати, бо ті нібито забирали у них роботу.

Людство добре призвичаюється до кожного нового циклу. Диявол імовірно ховається в соціальних мережах, але, напевно, десь там є і Бог.

«Чи не наближаємося ми до Бога, створюючи штучний інтелект?»

— Зараз на книжках починають з’являтися маркування, що вони написані без штучного інтелекту. Які виклики тут бачите? Чи прийдемо ми до моменту, коли на всіх книжках буде маркування «Несинтетично створена книга»?

Ярослав Грицак: Я запевняю, що на моїх книжках такого напису не буде. Я свої книжки пишу сам і не дозволю жодному штучному інтелекту це робити за мене. Так, ми стали жити довше і комфортніше. Але чи ми живемо якісніше, краще? Чи рівень загроз, який стоїть перед нами, зменшився? Або, навпаки, збільшився?

Є простий тест, щоб це зрозуміти. Подивіться, наскільки зросла кількість фільмів про кінець світу. Тобто в нашому знанні з’явилося щось, що змушує бачити такі сценарії. Можливо, це відбувається підсвідомо.

Ще на початку нульових британські науковці прогнозували, що близько 2030 року людство зіткнеться з кризою базових ресурсів — насамперед води — на тлі вибухового зростання населення. І було припущення, що високотехнологічні війни йтимуть саме за базові ресурси.

Повторюся, те, що пов’язано з насильством, розвивається краще, ніж те, що пов’язане з ненасильством. Найбільш розвинуті технології — військові. Це те, чого не розуміють Маск і Цукерберг. Історики, філософи й письменники давно про це кажуть. Зло завжди поруч і завжди використовує будь-які зміни. Сімдесят років ми жили без великої війни й почали вірити, що вона більше неможлива.

«Але достатньо трьох поколінь, які не знали війни, щоб повернулося відчуття, що вона знову може статися»

Тому головне — бути обережними з будь-якими технологіями, навіть найкращими. Диявол існує в історії, і найбільша його брехня в тому, щоб переконати нас, ніби його нема. Можна бути генієм у сфері ІТ й водночас — ідіотом у питаннях людської історії й гуманітарних процесів. Це те, що я називаю технологічним ідіотизмом. Історія навчає — користаймося з досягнень, але тримаймо обмеження, червоні лінії, які не можна переходити. Це, мабуть, головний меседж, який дає нам історія.

Ярослав Ажнюк: У жодному разі не можна прибирати філософію з навчальних програм технічних спеціальностей. І бійтеся тих айтівців, які кажуть, що їм література, філософія та інші гуманітарні науки не потрібні. Бо є загроза стати Маском, який казав, що емпатія — не актив (empathy is not an asset).

Щодо маркування книг, то я вважаю, що це тупиковий шлях. Це все одно, що казати, що ця футболка зроблена без ткацького верстата. Важливо, щоб кінцевий продукт був хорошим, корисним, цінним, правдивим.

«Чого ми більше боїмося? Того, що штучний інтелект буде писати погані книги, чи того, що він буде писати їх краще за людей?

— Чи зможе ШІ мати душу?

Ярослав Грицак: Найбільша зміна, яка стосується людського характеру, сталася під час «золотого віку», приблизно між IV століттям до нашої ери і VI століттям нашої ери. Це часи, коли сформувалися світові релігії. Часи життя Сократа, Христа, Будди, Конфуція, які, незважаючи на те, що жили в різних країнах, вивели золоте правило моралі. І воно звучить дуже просто: не роби іншому те, що ти не хочеш, щоб робили тобі.

Крім тіла і інтелекту, в людях є ще дещо, що неможливо виявити чи дослідити. Але це те, що нас визначає. Вибачте за банальність, я кажу про душу.

Наприклад, ізраїльський футуролог Юваль Ной Харарі ставить, на мою думку, слушні питання:

«Чи, створюючи штучний інтелект, ми не наближаємось до Бога? Чи ми самі не стаємо Богом? Ми можемо створити тіло штучному інтелекту, ми можемо дати йому інтелектуальні суперможливості, але чи ми дамо йому емпатію?»

Тому це питання апелює не тільки до інженерів, а й до гуманітаріїв: істориків, філософів, богословів. Також великих текстів — Платона, Макіавеллі, Лока.

Це підводить нас до ще однієї небезпеки соціальних мереж — вони прагнуть зробити інформацію якомога коротшою. Лише 4-5 рядків. А де час на рефлексію? Де час на духовне?

Я не проти технологій, я ними користуюся і тішуся, що скоро вони, ймовірно, розв’яжуть питання раку. Але чи буде від цього в нашому житті менше небезпек? Ось тут для мене велике питання. І дуже важливо, щоб був діалог між ІТ і гуманітаріями. Щоб я, гуманітарій, трошки знав, що є в ІТ, але і щоб ІТ-спеціалісти читали великі тексти.

Все про українське ІТ в телеграмі — підписуйтеся на канал DOU