Майбутнє взаємин людини і машини — чи доживе людство до моменту, коли його знищуватиме АІ

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Усім привіт, на зв’язку Володимир Бархат, засновник CleverStaff, ідеолог гейміфікації в рекрутингу. У цій статті хочу поділитися своїми роздумами про те, яке майбутнє чекає нас у світі роботів та штучного інтелекту, наскільки кінематограф і література викривили наше сприйняття технологій, а ще, звісно, про повстання машин проти людей. Пропоную разом подумати, як буде далі розвиватись ШІ. Долучайтесь у коментарях.

В наш час люди впроваджують штучний інтелект (ШІ) для вирішення багатьох задач у різних сферах, найбільше — для аналізу і обробки текстових і графічних даних. Оскільки в софті для рекрутерів, з яким я працюю, є великі масиви даних і широкі можливості з автоматизації й оптимізації роботи з ними, я досліджую, як у нас можна використати ШІ, як коректно ставити для нього задачі і які межі його можливостей.

Фантазії про ШІ вже давно захоплюють людей. У світі з’явилось так багато книг, фільмів і статей про цей клас технологій, що це призвело до появи міфів і страхів. Зокрема люди думають, що розвиток ШІ треба регулювати, стримувати, бо він може вийти з-під контролю і знищуватиме людство.

Якщо вас не дивує думка про «взаємини» людини і машини — це постаралась сучасна масова культура, голлівудські фільми.

Взаємини можливі тільки між субʼєктами — з іншими людьми та організаціями (в яких працюють люди). Людина може мати щось схоже на відносини з автомобілем чи улюбленою рослиною, але я б не називав це відносинами. Це може бути перенесенням бажання людських почуттів на рослину чи предмет, або піклування, аналогічне піклуванню про своє власне тіло.

Що може зробити машину субʼєктом? Свідомість. Тобто здатність навчатись, мати власний внутрішній світ (досвід разом з емоційним ставленням до нього, цінності, пріоритети), здатність мислити і приймати власні рішення.

Чим далі людство просувається у розвитку штучного інтелекту, тим цікавіше, і для багатьох лячно помислити про межі його розвитку і загрозу існуванню людства.

Цікаво відтворити хід думок людей, що бояться повстання машин як у фільмах «Термінатор», «Матриця», «Я, робот». Я думаю, він приблизно наступний. Ми можемо зрубати або спалити дерево, вбити комаху, червʼяка та рибу. Але у нас можуть виникнути проблеми з агресією до більш розвинених і здібних тварин, таких як тигр, вовк, слон, велика мавпа і, врешті-решт, — людина. Розвинені і сильні вдаються до захисту, можуть дати відсіч і навіть убити кривдника.

Ми викидаємо пилосмоки, діти ламають іграшки — ми так само можемо створити і поламати робота. А якщо в нього завантажити потужний штучний інтелект, тоді він вже терпіти не буде, скоординується з іншими роботами і почне війну проти людей.

І тут починається найцікавіше. Чи може робот вдатись до таких думок і як цього не допустити?

Самозахист роботів

Уявімо групу роботів.

Якщо людина з бейсбольною бітою накинеться на ближніх до себе або буде стріляти у них з пістолета, у роботів не зʼявиться жодних почуттів і емоційного ставлення до цього. Їм наче байдуже, але байдужість — це теж емоційне відношення. Тому їм не байдуже. Вони можуть діяти тільки так, як закладено у їх програмне забезпечення. Робот однаково легко може ніяк не реагувати на руйнування, тікати, чинити опір чи допомагати людині нищити інших роботів.

Самозахист роботів — це не далеке страшне майбутнє. Такі алгоритми у нас уже є. У багатьох компʼютерних іграх, якщо ви нападаєте на нейтральних персонажів або союзників, вони будуть захищатись і можуть вбити вашого персонажа, якщо вистачить сил. Для цього не потрібна якась супер свідомість, розум, почуття, страх смерті. Розпізнати джерело небезпеки і протидіяти йому — це зможуть досить прості роботи з простими алгоритмами.

Українська армія вже використовує боєприпаси, які самі знаходять і вражають ціль. Алгоритми самозахисту, вибору і ушкодження цілі у людства вже є. Я думаю, нам не довго чекати перших прикрих випадків, коли робот сам, без участі людини, вбʼє людину. Це може бути бойовий дрон, який поцілив у своїх чи у цивільних. Можливо, хтось прилаштує роботам певні засоби проти викрадення, які заподіють шкоду людям.

Однак від самозахисту одного робота до організованої боротьби армії роботів проти людей — нездоланна прірва. Щоб роботи самі скоординувались, поставили агресивну ціль, визначили ворогів, почали захищати своїх і стратегічно, довго, в різних умовах діяли проти ворогів — повірте, це дуже, дуже складна задача. Точніше, багато складних задач. На десятиліття не тільки розробки людьми, а і тестування у ситуаціях, наближених до реальних. Це вам підтвердить будь-який серйозний розробник ігор чи ПЗ для роботів.

Щоб роботи змогли ефективно протистояти людям, потрібно, щоб люди спеціально їх навчали цього багато років, і вдосконалювали алгоритми після аналізу невдач у реальних бойових зіткненнях. Уявіть, що потрібно зробити для тестування таких розробок. Така складна поведінка не може у роботів зʼявитись сама, і вони не зможуть це збагнути еволюційно, навчитись.

Робóта для рóбота

Штучний інтелект — це звучить крутіше, ніж є насправді. Коли кажуть про щось із ШІ, скоріш за все мається на увазі Machine Learning — алгоритм, що може самостійно вдосконалюватись, отримуючи фідбек про якість результату.

Machine Learning за умови коректної постановки може вирішувати певний клас задач. Наприклад, робот, який вміє готувати омлет і вміє сприймати ваш фідбек, може вчитись готувати його ще краще. Він може підібрати ідеальні для вас рівень солоності, кількості молока, виробника яєць, пишність омлету, а також зробити оптимальний омлет з урахуванням вашого настрою і сонності/ бадьорості. Вчені з Кембридзького університету вже почали рухатись в цьому напрямку і навчили робота готувати 9 варіантів омлету, куштувати їжу подібно до людини і навіть складати смакову мапу страви.

Інший «домашній» кейс аналізується у дослідженні Theinfographicsshow, де розповідається про здатність робота спостерігати за рухами людини через камеру. У такий спосіб він вчиться виконувати близько 20 домашніх задач — від відкривання холодильника, дверей, вікон до пересування речей і меблів. Спочатку він робить помилки, але з кожним разом виконує роботу все вдаліше. Автори розробили алгоритм, який працює не за стандартним принципом «від простого до складного», а одразу має на меті виконання складних задач. Робот навчається, переглядаючи будь-яке відео за участю людини, розкладає її рухи і повторює їх.

Також вже відомий робот, який вміє вигулювати собаку. Він здатен вимірювати рівень її серцебиття, аналізувати енергійність, враховувати стан здоровʼя, породу, вік, апетит, настрій, і на основі цих даних — навчитись оптимально вигулювати собаку. Різновид такого робота запропонувала Toyota, запатентувавши платформу для вигулювання собак. Завдяки їй собака може вигулюватись за визначеним маршрутом, з певною довжиною та натяжінням повідця, урахуванням її звичок і поведінки.

Але робот, що вміє навчатись готувати омлет, не зможе навчитись вигулювати собаку, чи робити людині приємний масаж, чи продати сусідам непотрібні дитячі іграшки. Кожна нова за типом задача потребує багато років праці розробників алгоритмів з людським розумом.

Для багатьох класів задач потрібно навіть більше — нові, більш досконалі запчастини для робота. Наприклад, робот, що прибирає будинок і готує каву, скоріш за все не впорається тільки силою нових алгоритмів із задачами, для яких потрібна складніша координація рухів, як для гри на фортепіано, футболу, масажу чи виконанню трюків на велосипеді.

Людський мозок програє компʼютеру у можливостях обчислення. Сучасні програмні алгоритми здатні ефективно обробляти велику кількість даних, що є нескінченною рутиною для людського мозку.

Зате людина має почуття, має здатність захоплюватись, цікавитись, надихатись, ставити самостійно цілі, досліджувати природу і властивості невідомого. Цих якостей не має ніякий штучний інтелект, тому він не може ставити і вирішувати нові, невідомі для себе задачі.

Бойові роботи проти людей

Цієї перспективи людству не уникнути, і перші кроки вже зроблені. У сучасних арміях вже є безпілотні дрони і літаки, системи ПРО, самонавідні снаряди, безпілотні наземні евакуатори поранених, прикордонні роботи-снайпери тощо. Розвиток технологій іде до автономнішої, самостійнішої зброї.

Цей напрямок не може не розвиватись, бо людське життя дуже дороге. Розвиток керованої військової техніки, тренування військових, їх утримання, порятунок і лікування під час війни — все це дуже дорого. Так, у дослідженні Marktechpost йдеться про те, що винайняти професійного солдата коштує $15 000, його навчання і утримання може сягнути $2 млн. ШІ може скоротити ці витрати.

Людство не може не інвестувати у наступальну і захисну зброю. Інвестиції у автономну зброю виглядають ефективними, перспективними і гуманними, як це не парадоксально звучить. Чи можливо, що якась країна створить велику армію роботів і застосує їх проти людей? Це більше схоже на цікавий сценарій для бойовика. Перш ніж про це думати, треба врахувати деякі важливі фактори.

По-перше, ми вже зрозуміли, що така розробка — це дуже-дуже дорого, складно, довго.

По-друге, війна на знищення у сучасному глобальному світі — це досить безглузда справа. США не вигідне знищення Китаю. Китаю не вигідне знищення США. США не вигідно, щоб Китай подолав Індію. Велика війна призведе не до гегемонії, а до ядерного апокаліпсису у гіршому випадку чи до нечуваної світової кризи і відкату всього світу на кілька десятиліть, якщо не на століття, у добробуті. Масштабне руйнування виробництва навіть тільки у двох країнах призводить до руйнування економічних звʼязків, здорожчання ресурсів, збільшення видатків, зменшення доходів, збільшення безробіття по всьому світу.

Серйозно інвестувати у велику армію знищення — це недалекоглядно і безперспективно. У наші дні весь світ відчуває, як сучасна війна росії проти України призводить до економічного спаду всюдисвітно: через санкції, зменшення ВНП супротивних країн, зростання цін на продовольство і енергоносії. Росії вдається чинити опір Україні і нашим західним союзникам тільки через наявність у неї ядерної зброї. Країна-агресор без ядерної зброї програла б війну дуже швидко і гарантовано. Ніяка армія роботів не допоможе перемогти велику коаліцію противників війни як такої, тому й інвестувати у таке не має сенсу.

По-третє, сучасна технологічна зброя стає все більш компактною і точною. Великі дорогі літаки і воєнні кораблі знищуються у тисячу разів дешевшими ракетами і безпілотними дронами. З розвитком високоточних засобів ураження стане безперспективним виробництво дорогої громіздкої зброї для широкомасштабної війни.

У майбутньому збільшиться перспективність інвестицій у засоби ураження не армій, а політичного керівництва. Це може бути щось типу мікродронів розміром з комаху чи новітні диверсійні штучки, які непомітно дістають ворожого президента на публічній зустрічі, і неможливо зʼясувати і довести, хто це організував.

Зброя, що філігранно і непомітно знищує керівників ворожої країни, є незрівнянно більш ефективною і бажаною, ніж зброя, що викошує мільйони людей і цілі міста. В неї будуть інвестувати.

Висновки

Як бачимо, розуміння складності розробки, зміна пріоритетів у сучасних війнах, тренд на компактність і філігранність зброї робить картинку про війну мільйонів людей проти мільйонів роботів схожою на застарілу фантастику. Повстання машин, війна з роботами неможливі суто через нездоланну складність реалізації і безперспективність інвестицій у це.

Штучний інтелект — не суперник людини, а чарівна паличка в руках людини, з досить обмеженою кількістю команд. Завантаження ШІ у робота з датчиками нічого принципово не змінює.

Впровадження ШІ у життя продовжить і розширить тренд на диджиталізацію нашого життя.

Примітивна, однотипна, рутинна людська праця буде все більше витіснятись технологіями. Але вони однозначно не є і не будуть загрозою для нашого життя і добробуту людей, що вміють і люблять вчитись.

Буду радий вашим думкам і коментарям, зокрема про майбутнє ШІ у вашій сфері.