Ілон Маск та дослідники AI закликають поставити на паузу експерименти зі штучним інтелектом

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Декілька відомих дослідників штучного інтелекту та експертів в галузі, включаючи Ілона Маска, підписали відкритий лист, у якому закликають розробників штучного інтелекту призупинити роботу над широкомасштабними системами штучного інтелекту, посилаючись на страхи щодо «глибоких ризиків для суспільства».

У листі, опублікованому некомерційною організацією Future of Life Institute, зазначається, що лабораторії штучного інтелекту наразі перебувають у «гонці, що виходить з-під контролю» щодо розробки та розгортання систем машинного навчання, «які ніхто — навіть їхні творці — не можуть зрозуміти, передбачити або надійно контролювати».

«Ми закликаємо всі лабораторії ШІ негайно призупинити принаймні на 6 місяців навчання систем ШІ, потужніших за GPT-4», — йдеться в листі. «Ця пауза має бути загальнодоступною для перевірки та включати всіх ключових дійових осіб. Якщо таку паузу не можна вжити швидко, уряди повинні втрутитися та запровадити мораторій».

Підписанти включають співзасновника Apple Стіва Возняка, співзасновника Skype Яана Таллінна, політика Ендрю Янга та низку відомих дослідників ШІ та генеральних директорів, зокрема Стюарта Рассела, Йошуа Бенгіо, Гері Маркуса та Емада Мостака. Проте є повідомлення про те, що імена додаються до списку як жарт (наприклад, генеральний директор OpenAI Сем Альтман, особа, яка частково відповідає за поточну ситуацію).

Як зазначено в листі, навіть сам OpenAI висловив потребу в «незалежному перегляді» майбутніх систем ШІ, щоб переконатися, що вони відповідають стандартам безпеки. Підписанти кажуть, що цей час настав.

«Розробники штучного інтелекту та незалежні експерти повинні використати цей час, щоб спільно розробити та впровадити набір спільних протоколів безпеки для вдосконаленого проєктування та розробки штучного інтелекту. Вони мають ретельно перевірятись та контролюватись незалежними сторонніми експертами», — пишуть автори листа. «Ці протоколи повинні гарантувати, що системи, які їх дотримуються, безпечні поза сумнівом».

Ознайомитися з листом повністю можна тут.