TechCrunch Global Affairs Project: ШІ загрожує основам глобального миру та безпеки

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Публікуємо переклад матеріалу від TechCrunch Global Affairs Project щодо ризиків і впливу штучного інтелекту на геополітичній арені.

Як вважаєте, чи дійсно AI несе такі ризики? Як їх уникнути? Обговорюємо в коментарях.

Геополітичні гравці завжди використовували технології для досягнення своїх цілей. На відміну від інших технологій, штучний інтелект (ШІ) — це набагато більше, ніж просто інструмент. Ми не хочемо антропоморфізувати ШІ (...). Але це швидко стає першорядним визначальним фактором нашої спільної долі. Ми вважаємо, що завдяки унікальним характеристикам ШІ та його впливу на інші галузі, від біотехнологій до нанотехнологій, він уже загрожує основам глобального миру та безпеки.

Швидкі темпи технологічного розвитку штучного інтелекту в поєднанні з широким спектром нових додатків (очікується, що обсяг глобального ринку штучного інтелекту з 2020 по 2028 рік зросте більш ніж у дев’ять разів) означає, що системи штучного інтелекту широко розгортаються без достатнього правового нагляду або повного врахування їх впливів на етичні норми.

Законодавчі та виконавчі органи влади просто не в змозі впоратися.

Зрештою, вплив нових технологій часто важко передбачити. Смартфони та соціальні мережі були впроваджені в повсякденне життя задовго до того, як ми повністю оцінили їх потенціал. Так само потрібен був час, щоб усвідомити наслідки технології розпізнавання облич для порушення конфіденційності та прав людини.

Деякі країни застосовують штучний інтелект для маніпулювання громадською думкою, визначаючи, яку інформацію побачать люди, і використовуючи спостереження для обмеження свободи вираження поглядів.

Ми погано уявляємо, (...) як інновації будуть взаємодіяти один з одним і ширшим середовищем.

Ці проблеми є особливо гострими для ШІ, оскільки засоби, за допомогою яких алгоритми навчання приходять до своїх висновків, часто є незрозумілими. Коли виявляються небажані ефекти, може бути важко або неможливо визначити причину. Системи, які постійно навчаються та змінюють свою поведінку, не можуть бути постійно перевірені та сертифіковані на безпеку.

Системи штучного інтелекту можуть діяти практично без участі людини. Не потрібно читати науково-фантастичний роман, щоб уявити собі небезпечні сценарії.

Автономні системи ризикують підірвати принцип, згідно з яким завжди має бути агент — людина чи компанія — який може нести відповідальність за дії у світі — особливо коли йдеться про війну та мир.

Ми не можемо притягувати системи до відповідальності, і ті, хто їх розгортає, будуть стверджувати, що вони не несуть відповідальності, коли системи діють непередбачуваним чином.

Коротше кажучи, ми вважаємо, що наші суспільства не підготовлені до штучного інтелекту — політично, юридично чи етично.

Світ також не готовий до того, як ШІ змінить геополітику та етику міжнародних відносин. Ми визначаємо три способи, якими це може статися.

По-перше, розвиток ШІ змінить баланс сил між націями. Технологія завжди формувала геополітичну силу. У 19 і на початку 20 століття міжнародний порядок базувався на нових промислових потужностях — пароплавах, літаках тощо. Пізніше контроль над ресурсами нафти та природного газу став більш важливим.

Усі великі держави чітко усвідомлюють потенціал ШІ для просування своїх національних програм. У вересні 2017 року володимир путін сказав групі школярів: «хто стане лідером [у ШІ], стане правителем світу». Хоча США наразі лідирують у сфері штучного інтелекту, технологічні компанії Китаю швидко прогресують і, можливо, перевершують у розробці та застосуванні конкретних сфер досліджень, таких як програмне забезпечення для розпізнавання обличчя.

Домінування ШІ великих держав посилить існуючу структурну нерівність і сприятиме виникненню нових форм нерівності. Країни, які вже не мають доступу до Інтернету і залежать від щедрості заможних країн, залишаться далеко позаду. Автоматизація на базі штучного інтелекту змінить моделі зайнятості таким чином, щоб одні національні економіки переважали порівняно з іншими.

По-друге, ШІ розширить можливості нової групи геополітичних гравців за межами національних держав. У певному сенсі провідні компанії в галузі цифрових технологій вже є могутнішими за багато країн. Як запитав президент Франції Еммануель Макрон у березні 2019 року: «Хто може стверджувати, що він сам по собі є суверенним перед обличчям цифрових гігантів?»

Прикладом є нещодавнє вторгнення в Україну. Національні уряди у відповідь запровадили економічні санкції проти Російської Федерації. Але, можливо, щонайменше настільки ж впливовими були рішення таких компаній, як IBM, Dell, Meta, Apple і Alphabet, припинити свою діяльність в країні.

Так само, коли Україна побоювалася, що вторгнення порушить її доступ до Інтернету, вона звернулася за допомогою не до дружнього уряду (США), а до технологічного підприємця Ілона Маска. (...)

Цифрова олігополія з доступом до великих баз даних, що розвиваються, які служать паливом для алгоритмів машинного навчання, швидко перетворюється на олігополію AI. З огляду на їхнє величезне багатство, провідні корпорації в США та Китаї можуть або розробляти нові програми, або придбати менші компанії, які винаходять перспективні інструменти. Системи машинного навчання також можуть бути корисними для олігополії AI в обході національних правил.

По-третє, ШІ відкриє можливості для нових форм конфліктів. Вони варіюються від впливу на громадську думку та результати виборів в інших країнах через фальшиві ЗМІ та маніпуляційні публікації в соціальних мережах до втручання в роботу критичної інфраструктури інших країн — наприклад, електроенергії, транспорту чи зв’язку.

Такими формами конфлікту буде важко керувати, що спонукає до повного переосмислення інструментів контролю над озброєннями, які не підходять для боротьби зі зброєю примусу. Нинішні переговори щодо контролю над озброєннями вимагають, щоб супротивники чітко усвідомлювали можливості одне одного (...), але хоча ядерні бомби, наприклад, обмежені в розробці та застосуванні, з ШІ можливо майже все (...).

Без чинних договорів, що обмежують їх розгортання, автономні системи зброї, зібрані з готових компонентів, зрештою стануть доступними для терористів та інших недержавних суб’єктів. Існує також значна ймовірність того, що погано зрозумілі автономні системи зброї можуть ненавмисно ініціювати конфлікти або ескалувати існуючі бойові дії.

Єдиний спосіб пом’якшити геополітичні ризики штучного інтелекту та забезпечити швидкий і всебічний нагляд, який він потребує, — це відкритий діалог про його переваги, обмеження та складність. G20 є потенційним місцем проведення, або можна створити новий міжнародний механізм управління для залучення приватного сектора та інших ключових зацікавлених сторін.

Загальновідомо, що міжнародна безпека, економічне процвітання, суспільне благо та добробут людей залежать від управління розповсюдженням смертоносних систем зброї та зміни клімату. Ми віримо, що вони все більше залежатимуть від нашої колективної здатності формувати розвиток і траєкторію ШІ та інших нових технологій.