Знищення людства скасовується: Каліфорнія готує закон, що протидіє загрозам ШІ

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

У штаті Каліфорнія зареєстрували «Закон про безпечні та надійні інновації для передових моделей штучного інтелекту» (відомий як SB-1047), що викликав суперечки щодо загальної «безпеки» великих моделей ШІ. Критики занепокоєні, що надмірна увага законопроєкту до екзистенційних загроз може серйозно обмежити дослідження і розробки.

Кілька положень із законопроєкту

📌 SB-1047 зосереджується на ідеї ШІ, який «автономно бере участь у поведінці, відмінній від запиту користувача», діючи при цьому «з обмеженим людським контролем, втручанням або наглядом».

📌 Законопроєкт містить юридичне визначення інцидентів безпеки: сюди входить шкода, що призводить до «масових жертв або збитків щонайменше на 500 мільйонів доларів», наприклад, «створення або використання хімічної, біологічної, радіологічної або ядерної зброї» або «точні інструкції для проведення кібератаки... на об’єкти критичної інфраструктури».

📌 Щоб запобігти цим ситуаціям, кожен, хто навчає велику модель, повинен «реалізувати можливість швидкого повного вимкнення» і мати політику на випадок такого вимкнення серед інших запобіжних заходів і тестів.

Критики стверджують, що політика щодо ШІ не повинна керуватися безглуздими страхами перед майбутніми системами, які більше нагадують наукову фантастику, ніж сучасні технології. А деякі вважають, що впровадження положень SB-1047 призведе до значних витрат навіть на звичайні дослідження в галузі ШІ.

«Якщо ми і бачимо тут прагнення до влади, то не з боку ШІ-систем, а з боку тих, хто їх знищує», — експерт з питань технічної політики, доктор Ніріт Вайс-Блатт.

У своєму інформаційному бюлетені «Розуміючи ШІ» Тімоті Лі (Timothy Lee) розповідає про те, як формулювання законопроєкту SB-1047 можуть серйозно перешкодити поширенню так званих моделей ШІ з відкритими вагами.

«Як і інші розробники ШІ, Meta навчила свої моделі Llama відмовляти у запитах на допомогу в кібератаках, шахрайстві, виготовленні бомб та інших злочинах», — пише Лі. «Але Meta, ймовірно, не може перешкодити комусь іншому завантажити одну з її моделей і доопрацювати її, щоб відключити ці обмеження».

А як ви вважаєте, подібні законопроєкти привнесуть більше користі чи шкоди? Чи варто взагалі регулювати законодавчо розвиток ШІ?