Даріо Амодей закликає сповільнити темп розробки ШІ

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Даріо Амодей знову підняв тему безпеки штучного інтелекту.

Це не вперше він за це непокоїться, втім на цей раз інформаційна хвиля досить сильна, бо в суспільстві все більше інтересу до теми.

Саму заяву навіть підтримали Ілон Маск (xAI) та Сем Альтман (OpenAI).

Що пропонує Даріо?
Сповільнити темп розробки ШІ, аби мати час на безпекові заходи.

Конкретних кроків три:

1. Сторонні оцінювачі — в кожній компанії, що розроблює ШІ, будуть незалежні оцінювачі. В них буде доступ як у співробітників і вони зможуть публікувати результати незалежно від цієї компанії.
2. Демократична координація — встановити безпекові стандарти та показники для неконтрольованого прогресу ШІ серед демократичних країн.
3. Глобальна координація — США та інші демократії мають на скільки це можливо налагоджувати кооперацію з авторитарними урядами, щоб ті теж ставились до ШІ відповідально (привіт, Китай та росія)

Це нагадує ситуацію з банками (аудитори, жорстка регуляція), чи ядерною зброєю (кооперація з усіма, навіть якщо країна недемократична).

І в словах Даріо безсумнівно є сенс та здоровий глузд.

Загальний ШІ потенційно буде розумніший за будь-яку людину, буде правильним ввести регуляції та спостерігати за тим, як його тренують та використовують.

Хоч великі дядьки й погодились на цьому, сумнівно, що з цього щось вийде путнє.

На носі історичні IPO Anthropic та OpenAI.
Компанії завзято конкурують між собою, а зацікавлені сторони працюють над залученням якомога більшої кількості коштів (як-от лобіюють investment-grade credit rating).

В США все ще (на жаль) президент Трамп.
Він вже виступив з заявою, що ми США не повинні робити поступок, якими скористається Китай.

Такі заяви вже звучали.
Сам Даріо й рефлексує на цю тему і виправдовується, що тоді ШІ був тупенький, а от зараз він ого-го. Тим не менш, нічого не заважає йому сказати те саме наступного разу.

Не хотілося б перетворитись на скрепку, але не віриться в те, що великі лаби перейдуть від слів до справи.

• А яка ваша думка щодо нової пропозиції від Даріо?
• Що може змусити OpenAI та Anthropic сповільнитись та дійсно сфокусуватись на безпеці?

Мій основний ресурс — це Telegram-канал. Підписуйтесь аби не пропустити нові пости!

Також на DOU є й інші мої дописи.