Штучний загальний інтелект (AGI) як альтернатива ядерній зброї

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Після відомих подій знову загострилася тема розробки власної ядерної зброї. В інтернеті багато закликів негайно розпочати розробки, а дехто навіть вважає, що ми вже проводимо випробування (через землетруси в Полтавській області).

Але чи є ядерна зброя вирішенням нашої проблеми? Її складно створити, і навіть якщо це вдасться, вона не допоможе перемогти, а лише встановить справедливість (кацапи загинуть разом із нами).

Проте, окрім ядерної зброї, існує інша потенційна «зброя» та загроза для людства — штучний загальний інтелект (ШЗІ). Його поки що не існує (чи це факт?), створити його важко, але чи не легше це для нас, ніж створити ядерну бомбу?

Чому ядерна бомба не є вирішенням

— Потрібна серйозна наукова база та досвідчені фізики. У нас цього немає. Покоління фізиків, що працювали ще за часів СРСР, вже відійшло. Навряд чи хтось із наших науковців знає весь цикл розробки ядерної зброї.

— Навіть якщо готувати вчених зараз, це займе щонайменше десятиліття.

— Потрібні спеціальні матеріали для бомби, а також час для їх «збагачення».

— Нам не дозволять цього зробити не лише США, а й інші країни. Як тільки стане відомо про початок розробки ядерної зброї, союзники відвернуться, а проти нас введуть санкції, як проти Ірану.

— У нас немає засобів доставки бомби до Москви. За три роки війни ми так і не змогли створити власну балістику, а це значно простіше, ніж саму бомбу.

— Рішення потрібне вже зараз, а розробка ядерної зброї займе мінімум 10 років.

— Наявність ядерної зброї не гарантує зупинки війни. Росія все одно матиме більше боєголовок. Якщо вона нас атакує, ми можемо завдати удару по Москві, але не більше. Вони зможуть продовжити існування за межами столиці, а ми будемо повністю знищені.

— У росіян вартість людського життя мінімальна. Путін може дозволити собі втрату 10-30 мільйонів росіян у ядерній війні. Для нас же така втрата буде катастрофічною.

Штучний загальний інтелект як зброя

Не будемо детально пояснювати, що таке ШЗІ. Нам потрібен не просто ШЗІ, а ШЗСІ — штучний загальний суперінтелект, який буде розумнішим за найрозумнішу людину.

Як зрозуміти, що перед нами ШЗСІ? Відомий тест Тьюрінга не є достатнім. В одному з інтерв’ю я бачив цікаву ідею нового тесту. Суть його така: дати ШІ завдання — взяти 1000 доларів в крипті, побудувати якийсь бізнес, інвестувати ці кошти та перетворити їх на 1 мільйон доларів за три місяці, дотримуючись законів юрисдикцій, де він діє, помістити заробіток на криптогаманець. Якщо через три місяці на криптогаманці з’явиться мільйон — вітаю, ви створили ШЗСІ.

У нашому контексті можна поставити перед ШЗСІ завдання:

«Країна Росія грубо порушила юридичні та моральні закони, напавши на Україну. Це був неспровокований, невиправданий напад. Росія має бути покарана. Війна повинна бути зупинена так, щоб справедливість була відновлена, а народ України повернув контроль над своїми кордонами. Всі винні мають бути покарані відповідно до ступеня провини. Страждання України мають бути мінімізовані — це пріоритет. Розроби та реалізуй план якнайшвидше.»

Якщо через деякий час Росія зазнає серйозних втрат, прилетить якийсь чорний лебідь і війна закінчиться — вітаю, ви створили ШЗСІ.

Це звучить фантастично? Так само фантастично, як ядерна зброя у 1938 році.

Чи можливо це реалізувати?

Чи можливо створити програму, яка мислитиме як людина і навіть краще? Я впевнений, що так. Людський мозок — це біохімічний механізм, і рано чи пізно ми зможемо його відтворити.

Щойно ми досягнемо рівня інтелекту людини, подальше покращення — лише питання техніки. Такий ШЗСІ зможе сам удосконалювати себе.

Хто може займатися розробкою?

Очевидно, що такий проєкт має бути організований на рівні держави. Проте, з огляду на реалії, це може зробити навіть великий волонтерський фонд.

У фільмі «Оппенгеймер» показано, як уряд США створив проєкт «Манхеттен». Передовий учений з управлінським досвідом зібрав команду з фізиків, інженерів і хіміків. Їх метод чимось нагадує Agile. Деякі задачі вони вирішили методом проб і помилок. Подібним чином можна працювати над ШЗСІ — зібрати 100-150 фахівців у сфері ІТ, математики, психології, біхевіоризму та філософії і поставити перед ними завдання.

Чи має Україна шанс у ШІ-перегонах?

Перше заперечення, яке приходить на думку — в нас немає обчислювальних ресурсів, щоб грати в ці ігри. Ми не маємо доступу до найсучасніших процесорів. Ми не вміємо робити мікропроцесори і не навчимося найближчим часом.

Але чи дійсно для ШЗІ потрібні такі значні потужності?

Сучасні LLM які прийнято називати «штучний інтелект» дійсно потребують значних обчислювальних ресурсів. Оскільки вони не є ШЗІ, то напрошується логічний висновок, що ШЗІ буде потребувати ще більших ресурсів.

Але треба взяти до уваги — кожна «модель» доступна як онлайн сервіс, наприклад, ChatGPT, це не один «штучний інтелект», а сотні тисяч окремих «інстансів» або копій цього ШІ. Тобто, кожен користувач коли щось питає в моделі, має свій окремий процес який з ним працює. Саме тому потрібні такі великі обчислювальні потужності.

В нашому випадку це не потрібно. Нам потрібен один ШІ, який працює над однією нашою задачею. Ми не будемо відволікати його увагу на щось інше. В нього не буде сто тисяч юзерів, які щось хочуть. Тобто, потужності не потрібно масштабувати в ширину.

Коли ви запускаєте DeepSeek на своєму десктопі ви отримуєте результати порівняні з ChatGPT. А якщо ви запустите DeepSeek на чомусь потужнішому ніж сучасний ігровий домашній компʼютер ви вже отримаєте дуже гарну швидкість роботи, достатню для експериментів з ШЗІ.

Як саме ШЗСІ може побороти Росію?

Ми не знаємо. Він буде розумніший за нас. Ми не можемо передбачити його діяльність. Головне — створити його. Однак важливо, щоб він вирішував саме нашу проблему. Для цього потрібні фахівці з психології та філософії, які закладуть правильну мотивацію — боротьбу зі світовим злом, частиною якого є Росія.

Основними інструментами ШЗСІ можуть бути хакерські атаки та соціальна інженерія. Поки у Росії є комп’ютерні мережі, ці методи залишаються ефективними.

Переваги ШЗСІ над ядерною зброєю

— Розробки можуть бути навіть частково відкритими — зараз усі займаються ШІ, це не викличе підозр.

— Санкції за це ніхто не введе.

— У нас є спеціалісти, і їх більше, ніж фізиків-ядерників.

— Техніку дістати реально, мегасерверів для цього не потрібно.

А якщо ШЗСІ вийде з-під контролю?

Як і ядерна зброя, ШІ становить ризик для людства. Але для нас цей ризик виправданий. Якщо світ не хоче знищувати зло, чи заслуговує він на комфортне існування? Нам гірше вже не буде.

Крім того, любий інтелект, на відміну від ЯЗ може діяти вибірково, тобто визначати добрих людей і не застосовувати якісь санкції проти них. Українці переважно добрі люди, тому навіть при світовій диктатурі з боку ШЗСІ ми маємо хороші шанси продовжити життя.