«Світ має прийняти, що погані речі траплятимуться»: Сем Альтман про ризики ШІ
Сем Альтман нещодавно дав інтерв’ю POLITICO, де розповів, наскільки по-різному OpenAI та Anthropic дивляться на ризики від розвитку ШІ та його регулювання.
Якщо коротко, то позиція Альтмана така: повністю уникнути шахрайства, зламів та інших зловживань з ШІ не вийде. І заради цього він не готовий обмежувати доступ людей до технології.
«The world should accept some bad things happening».
За словами Альтмана, між OpenAI та Anthropic досі є суттєва різниця у поглядах на те, наскільки жорстко потрібно регулювати передові AI-моделі. Anthropic традиційно виступає за обережніший підхід, тоді як OpenAI підтримує м’якше регулювання та якомога ширший доступ до технології.
При цьому за останні місяці позиції компаній трохи зблизилися. Альтман підтримав заклик Даріо Амодея пригальмувати розвиток найпотужніших моделей. OpenAI підтримала нові вимоги до безпеки на рівні штатів США, а її лобісти погодилися з пропозицією допустити незалежних експертів до оцінювання передових моделей.
Але є нюанс. Альтман не погоджується з підходом, за якого через потенційні ризики доступ до найсильнішого ШІ фактично залишиться в руках кількох компаній. За його логікою, ситуація, коли умовна одна лабораторія в Сан-Франциско вирішує, кому і як видавати доступ до технології, теж далеко не найкращий сценарій.
Тому він не готовий обміняти широкий доступ до ШІ на гарантію, що технологію взагалі ніколи не використають для зламів, шахрайства чи інших шкідливих задач.
«People will do tremendously, orders of magnitude more, good stuff than bad stuff».
При цьому Альтман окремо виділяє «справді катастрофічні ризики». Наприклад, ситуацію, коли люди серйозно втратять контроль над ШІ. Ось такий ризик він уже не вважає прийнятною ціною за розвиток технології.
І от питання, де загалом проходить ця межа? Бо шахрайство, злами та використання моделей у шкідливих цілях — це вже цілком реальні проблеми. З іншого боку, якщо вимагати повної гарантії, що технологію ніхто й ніколи не використає неправильно, то можна взагалі нічого не випускати.
Розкажіть, яка позиція вам тут ближча? Чи все-таки вони обидва один одного варті й просто хочуть більше хайпу та наживи?
9 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівце він так говорить, поки його не заскамили, подивимося, що скаже після)
«Ти смієш використовувати проти мене мої власні заклинання, Поттере?»
Якось так буде :)
Якщо трохи абстрагуватися і подивитися на ситуацію з глобальної точки зору (планетарної, космічної), а не з антропоцентричної, як людство робить майже у 100% випадків, то навіть у най-найгіршому випадку, практично неможливо влаштувати аж настільки тотальний апокаліпсис, який знищить всю планету і всі форми життя на ній. Так, можливо зникне людство, можливо зникнуть навіть50-95% живих істот (тварин, рослин, риб і т.д.), але таке вже було за всю історію Землі і не раз. І, о диво, кожен раз планета відновлювалася, живі організми еволюціонували та підлаштовувалися під нові умови.
Тобто потрібно розуміти, з чиєї точки зору ми дивимося на ситуацію і що вважаємо найвищою цінністю. Якщо найвища цінність — розумні форми життя, то не факт, що homo sapiens — остання ланка чи найкраща ланка у цьому ланцюжку. Сенс нашого існування може бути цілком у тому, щоб створити автономних роботів з АІ, які зможуть набагато краще адаптуватися до життя на інших планетах та космічним польотам на сотні й тисячі світлових років.
Колись на планеті окрім неандертальців, кроманйонців, австралопітеків жили й інші види людей, але в результаті найрозумніші та найагресивніші витіснили всіх інших. Чи відчуваємо ми, нащадки еколюційних переможців, сум за тими невдахами, які не вижили? Аж ніяк. Так само і якщо майбутнє планети — це синтетичне життя, де роботи з АІ будуть панувати, а люди зникнуть зовсім — не залишиться нікого, хто б сумував по homo sapiens (бо нас вже не буде, а роботам буде пофіг, так само як нам пофіг на всі ті інші види людей, які жили сотні тисяч років тому).
Звучить депресивно, знаю, але цілком ймовірно, що ми, homo sapiens, це динозаври v2.0. Просто кінець динозаврів прилетів з неба, а ми свій кінець самі створимо, на землі. Але «кінець людства» не дорівнює «кінець світу». Ми занадто переоцінюємо власну важливість для цієї планети та Всесвіту.
“Robert Morris was held accountable for his worm because he wasn’t powerful and rich. These people are creating things that are doing exactly what they’re designed to do, and they don’t have accountability. The real solution for this problem of AI isn’t to destroy the technology. It’s to hold the people that use it irresponsibly accountable.” (InRangeTV)
Поки Альтман там філософствує, тим часом ще один чувак лівнув з Опен АІ, бо не згоден з культурою в компанії — типу вони роблять ставку на постійні спринти, швидкі релізи та вирішення проблем в порядку надходження. Ну а він вважає, що вже зараз треба працювати з АІ з такою ж обережністю, як на атомних станціях чи в авіації
www.theatlantic.com/...-team-resignation/688881
Є одна відома данська приказка: «Den enes død, den andens brød»
«Смерть одного — хліб іншого»
Гарно описує цю всю ситуацію
1. Світ може загинути через ШІ експерименти недоступні людині.
2. ШІ замінить людей, не даючи ніякої альтернативи як раніше, пересісти зі станку на заводі до офісного компьютера більше не вийде. Людська цінність девальвує.
3. ШІ відкриває можливості для автономної зброї масового ураження, кого ця зброя буде вражати?
ШІ проти людей на всіх ланках. Але інтернет навчив йти за трендами, тому у черговий раз, а можливо й останній, еліти будуть вести світ до знищення через власні страхи та жадібність, а люди будуть за цим спостерігати та страждати.
Так наче біля станку наразі нестача людей. Просто платять там не так, як в IT
Питання оплати схоже вирівнюється, а от почілити півтижня на мітингах, як то буває в айті, там певно як опцію не надають.