Штучний ажіотаж навколо AI. Розслідування про відкритий лист із закликом зупинити «небезпечну» розробку штучного інтелекту

Понад 30 000 людей, включаючи Ілона Маска, співзасновника Apple Стіва Возняка, політика Ендрю Янга та кількох провідних дослідників штучного інтелекту, підписали відкритий лист. В ньому вони вимагають шестимісячної паузи у тренуванні систем штучного інтелекту, потужніших за GPT-4.

Vice розібрався, що це за лист і чому навколо нього така кількість обговорень, а ми переклали ключові тези.

Лист викликав бурхливу реакцію: деякі підписанти відкликали свої підписи, деякі підписи виявилися фальшивими, і багато інших дослідників та експертів публічно висловили свою незгоду з пропозицією та змістом листа.

Лист був написаний Future of Life Institute, некомерційною організацією, метою якої є «зменшення глобального катастрофічного та екзистенціального ризику від потужних технологій». В цій організації також беруть участь деякі з найбільших прихильників longtermism, свого роду світської релігії, яку підтримують багато представників технологічної еліти Кремнієвої долини. Вона проповідує інвестиції величезних ресурсів для розв’язання проблем, які постануть перед людьми в далекому майбутньому.

Зокрема, інститут зосереджується на зменшенні довгострокових «екзистенційних» ризиків для людства, таких як надрозумний AI. Маск, який висловлював схожі переконання, пожертвував 10 мільйонів доларів на цей інститут у 2015 році.

«Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики — керованими. Тому ми закликаємо всіх розробників штучного інтелекту негайно призупинити принаймні на 6 місяців навчання систем штучного інтелекту, потужніших за GPT-4», — йдеться в листі. «Розробники штучного інтелекту та незалежні експерти повинні використати цю паузу, щоб спільно розробити та впровадити набір спільних протоколів безпеки для просунутого проєктування та розробки AI, які ретельно перевіряються та контролюються незалежними сторонніми експертами».

«Це не означає зупинення розвитку штучного інтелекту в цілому, а просто відхід від небезпечних перегонів до все більших і непередбачуваних моделей з новими можливостями», — уточнюється в листі, маючи на увазі конкуренцію між великими технологічними компаніями, такими як Microsoft. і Google, які минулого року випустили низку нових продуктів AI.

Серед інших відомих підписантів — генеральний директор Stability AI Емад Мостаке, письменник та історик Юваль Ной Харарі та співзасновник Pinterest Еван Шарп. Є також кілька людей, які працюють на компанії, які беруть участь у розробці AI, які підписали контракт, зокрема Google DeepMind і Microsoft. Усі підписанти були підтверджені організацією як «незалежно перевірені через пряме спілкування». Ніхто з OpenAI, яка розробляє та комерціалізує серію GPT моделей AI, не підписав листа.

Попри цей процес перевірки, лист має фальшиві підписи, у тому числі людей, які видавали себе за генерального директора OpenAI Сема Альтмана, президента Китаю Сі Цзіньпіна та головного науковця зі штучного інтелекту Meta Янна Лекуна, перш ніж інститут перевірив список і призупинив додавання нових підписів поки вони перевіряють кожен з них.

З моменту публікації лист уважно вивчили багато дослідників штучного інтелекту та навіть ті, хто його підписав. Гарі Маркус, професор психології та нейронауки в Нью-Йоркському університеті, сказав Reuters, що «формулювання не ідеальні, але сенс правильний». Подібним чином Емад Мостаке, генеральний директор Stability.AI, який протиставив свою фірму OpenAI як насправді «відкриту» компанію з розробки штучного інтелекту, написав у Твіттері: «Так, я не думаю, що шестимісячна пауза є найкращою ідеєю або погоджуюсь з усім. Але в цьому листі є кілька цікавих речей».

Експерти зі штучного інтелекту критикують цей лист як написаний задля створення штучного «ажіотажу AI», а не перерахування або заклик до конкретних дій щодо шкоди, яка існує сьогодні. Дехто навіть стверджував, що лист пропагує longtermism, тобто світогляд, який критикували як шкідливий і антидемократичний, оскільки він цінує супербагатих і допускає морально сумнівні дії під певними виправданнями.

Повний матеріал за лінком .