Сотні мільярдерів, експолітиків та публічних осіб закликають зупинити розробку штучного суперінтелекту

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Сотні впливових людей закликають зупинити розробку штучного суперінтелекту — технології, що потенційно може перевершити людський розум.

Понад 900 публічних осіб, серед яких мільярдери, політики, науковці та лауреати Нобелівської премії, підписали петицію із закликом призупинити створення AGI, доки не буде досягнуто наукового консенсусу щодо його безпечності, контрольованості та поки ця технологія не отримає широку підтримку суспільства. Про це з посиланням на свої джерела пише Forbes.

Серед підписантів — герцог і герцогиня Сассекські Гаррі та Меган, Річард Бренсон, співзасновник Apple Стів Возняк, праві коментатори Стів Беннон і Гленн Бек, а також лауреати Нобелівської премії Джеффрі Гінтон і Йошуа Бенджіо — «хрещені батьки ШІ». У списку також колишній голова Об’єднаного комітету начальників штабів США Майкл Маллен, ексрадниця з нацбезпеки Сьюзан Райс та багато інших.

Натомість такі топменеджери, як Сем Альтман і Марк Цукерберг, петицію не підтримали. Вони, навпаки, виступають за розвиток AGI, хоча паралельно, як повідомляють ЗМІ, будують собі бункери «на випадок непередбачуваних обставин» :)

Тож до якого табору ви ближчі: тих, хто виступає проти AGI, чи тих, хто вірить, що він залишить нас в живих?

👍ПодобаєтьсяСподобалось1
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

AGI настане одразу після підкорення термояду!

До речі, цікава думка. Якраз можливо і вирішиться проблема з нестачею електроенергії для дата-центрів

Як ростуть корали? Весь час. ЛЛМ повинні рости як корали, щоб ми нарешті зустрілися з AGI.
У ЛЛМ це мабуть буде схоже на постійній перебір різноманітних варіантів, з фіксацією тих варіацій, що відповідають дійсності. Тобто це саморефлексії. Але... хто небудь бачив вже ЛЛМ, що уміє у саморефлексії?
Що? ( дослухається) Боронь, боже?
Ага.

Міліардери просять зупинити розробку ШІ суперінтелекту, а наші контори висовують вимоги до фулстек розробників володіти купою ШІ-тулзів фреймворків (котрі в принципі нереально було освоїти за час всіх блекаутів + не було такого рівня проектів в наших краях).
Ми живемо в якихось паралельних реальностях : демократичний світ — в одному, а Україна і *@раша- в іншому

Міліардери просять зупинити розробку ШІ суперінтелекту, а наші

Натякаєте що треба теж петицію бо зупинці розробки висувати?

Нам потрібно спочатку налагодити ’трудове законодавство’. Бо з правами спеціалістів у нас ’як у кошенят’, нам той штучний інтелект побудує ’цифову диктатуру. І сенс тоді вчити всі ті ШІ-фрейворки (ще й за власний рахунок) ? Щоб що, збагачувати галери ? Вони набридли своїми «непомірними апетитами», коли вимоги до спеца, як до 5 відділів розробки, а прав- 1 година на прощання при звільненні.

Щоб що, збагачувати галери? Вони набридли своїми «непомірними апетитами»

Тобто десь трохи вважаєте що метою підписантів тих петицій то — протидіяти апетитам галер?

нам той штучний інтелект побудує ’цифову диктатуру. І сенс тоді вчити всі ті ШІ-фрейворки

Не думаю що ці питання пов’язані між собою, виглядає скоріш як сам sort of conspiracy. Але якщо навіть за цією теорією — щоб знати з чим мати справу.

вчити... ще й за власний рахунок

вчити будь-що з ШІ принаймні покищо не входить до чогось mandatory навіть і далеко, а віднести можна скоріш більш до власного вибору

герцог і герцогиня Сассекські Гаррі та Меган

капець авторитети в галузі 🙂

Оце буде прикол, якщо всі ці страхи реально справдяться, AGI створить цифровий апокаліпсис у всіх точках планети, де є інтернет та електроніка, а в результаті «найбільш розумними» з точку зору еволюції та виживання людства виявляться аміші та племена в Африці і біля Австралії/Океанії, які відмовляються йти на контакт з дослідниками і все ще живуть так само, як і 10 тисяч років тому — бігають у клаптику шкіри і полюють на тварин списами.

Вони після апокаліпсису відновлять людство))

А потім підемо на другу ітерацію

Лорен Санчес на них немає, так би, замість впровадження аі, ходили б по дискотеках, випивали, жили б життя)

Цікаво, а як з ними взагалі живуть жінки, це ж 24/7 не життя , а ШІ- ття постійне)

хто захоче буде ходити на шіскотеку, принципової різниці не помітно)

Ой, та ладно. А станцювати той танець із фільму «Кримінальне чтиво»? Героїня Уми як раз в той момент так відображає роль жінок, у котрих чоловіки 24/7 заШІваються).

окремі випадки можуть підтверджувати що загальне правило «неважливість що там музикально бумкає у фоні» таки існує)

Я думаю, головна мета- змінити фокус чоловіків тих з Шіття на життя, а вже методи неважливі, ну і жінкам отримати класні, веселі емоції, бо переважна більшість чоловіків не вміють танцювати)

Пізно, нам песець — вони оточують з усіх боків!)

Ілон Маск планує створити мільйонну армію роботів-гуманоїдів Optimus:
blik.ua/...​cil-peresliduye-milyarder

Це до першої операції, або лікування нервів у запаленому зубі, далі думки про біг по лісу в клаптиці шкіри вже не такі привабливі

AI — це єдина можливість кратно підвищити продуктивніть людей і компенсувати економічні проблеми світових економік через погану демографію в майбутньому. Ці люди такими ініціативами можуть погіршити життя соціуму таким чином, яким ніколи не спромігся б це зробити AI.

Ще одна петиція проти всього поганого за все хороше. Напевно розумні люди, як вони реалізацію цього бачать у сучасному реальному житті?))) Проводити хрестові походи проти всіх єретиків, які розробляють ШІ?)

ИИ — это обычная комптютерная программма, (текстовый процессор если речь о GPT) и проблем от нее не больше и не меньше чем от любой другой компьютерной программы
Те кто утверждают что то иное либо технически безграмотны либо боятся что пострадает их бизнес.

ИИ — это обычная комптютерная программма, (текстовый процессор если речь о GPT) и проблем от нее не больше и не меньше чем от любой другой компьютерной программы

Чомусь згадав старе оповідання Стівена Кінга — «Всемогутній текст-процесор» (Word Processor of the Gods) — набрані на ньому твердження ставали реальністю, а набрані і видалені — безслідно з реальності зникали..

І хоча чатжопете та інші ще не досягли такого рівня, але їх вплив на довкілля вже важко недооцінювати.

компьютеры по сравоению со счетами с костяшками и логарифмическими линейками тоже нехило повлияли на реальность и что?
Кстати в начале прошлого века многие выступали простив электричества — в журналах даже печатали карикатуры с трупами с выснутыми языками висящими на проводах.
Еще раз — те кто выступает против ИИ (так же как например против ГМО) либо наслушались тиктока либо, как вы путающие реальность с НФ романами и голивудскими фильмами, либо видят проблемы для своего бизнеса. То есть никаких обективных проблем от ИИ нет и быть не может. Ну разве что у тех безмозглых спрашивающих у чатагпт какие лекарства принимать или какие купить акции.

Так я навпаки повністю підтримую використання і подальший розвиток ШІ — і коли він нарешті стане справжнім ШІ, а не складною енциклопедією яка зі змінним успіхом жонглює фактами і методами, то на нас чекає щось чудове — прорив у розвитку цивілізації!

пока не станет.
чтобы там не обещал Сема Альтман чтобы выклянчить бабла у инвесторов, серьезные ученые в том числе «отцы» LLM утверждают что пока нет даже теоретического обоснования архитектуры AGI. попросту говоря ни у кого пока нет идей как его делать.

попросту говоря ни у кого пока нет идей как его делать.

Просто створити навчальні дані, як на мене.

Кстати в начале прошлого века многие выступали простив электричества

Так, а ще можна згадати як кілька років тому радіофоби у ЄС підпалювали 5G вишки — люди бояться всього нового..

Ну... а шифрування це розв’язок математичного рівняння. Але законодавство багатьох країн регулює певні види шифрування. Атомна бомба це просто фізична реакція, але її створення жорстко контролюється. Автомобіль це проста механічна система, але потребує прав і регуляцій. Ліки та наркотики це хімічні сполуки, але їх виробництво та розповсюдження контролюється. А Путін лише людина.

Тому факт «щось це програма» не означає відсутність потенційних ризиків.

На скільки мені відомо, як створити AGI — поки що ніхто і гадки не має. Останні люди, яким би я доручив приймати рішення з цих питань, це саме «публічні особи, політики і мільярдери», навіть якщо ці публічні особи — Нобелівські лауреати (ну, скажімо, з літератури). Це тупо бздо за свої гроші та вплив, а зовсім не піклування про долю цивілізації. Так, ризики доволі очевидні, і небезпека екзистенційна, але те, що може бути створене — буде створене, і це ніхто і ніщо не зупинить, хіба що якась глобальна катастрофа.

От це проблему людству придумали ... А до реальних ніхто не хоче повернутись?

Ще коли я пропонував орієнтацію на поступовий прогрес переналаштувати/оновити на орієнтацію на поступовий регрес. Назад на пальми!

«Кибернетика — „наука“ мракобесов» — десь ми вже це бачили ...

Та хоча б якийсь інтелект спочатку зробіть, а потім уже супер.

Якщо звичайні ЛЛМки стільки шороху наробили, всі можливі рекорди побили по пдопшину і згорівших пердаків, то уявляю що «якийсь» інтелект зробить, не говорячи вже про повноцінний AGI.

будують собі бункери «на випадок непередбачуваних обставин» :)

це ж будуть високотехнологічні сучасні бункери типа «розумний будинок» під керуванням ШІ? ;-)

А як ця петиція має спрацювати? Зараз це виглядає,як червоний світлофор, для боліда в процесі гонки.

ну так то в гонках, якщо загорівся червоний прапор, то бляха гонщик має всратись, але виконати вимогу і поїхати за машиною безпеки.

Так, але це таке гальмування, що не позаздриш.
Тобто, зараз аі, за рахунок агресивного просування , набрав вже обороти, і ось ця петиція — я не розумію, вона має практичний сенс,чи більш філософський?

В моєму особистому розумінні ця петиція — це як фраза «Висловлюємо глибоку стурбованість». Найпотужніші корпорації та лідери найбільших країн зацікавлені в розвитку ШІ, тому поки вони не будуть проти — нічого не зміниться.

Угу, то петиція стурбованих, то коаліція рішучих ітд. Поки що з них, як з гуся вода)

технології, що потенційно може перевершити людський розум

Камон, про що взагалі мова, якщо людство ще досі не знає, як працює мозок людини, та як взагалі формується інтелект. Так, є купа теорій про неокортекс і так далі, але це все залишається теоріями. Тому дивно читати, що вже зібрались перевершити те, що ніхто не знає, як працює :)

Тут мова про інше. Через пару років будуть людиноподібні роботи, які будуть робити будь-яку роботу, яку може робити людина. Вони будуть її робити краще і набагато дешевше. В тому числі грати в футбол чи програмувати. Люди більше не будуть потрібні, як працівники, спочатку у багатих країнах.

В тому числі грати в футбол чи програмувати

В футбол — якщо походу разом з чимось що дійсно актуально, чи може профітно. А без того — малоймовірно (абож тільки як демо-промо можливостей).

Для кого ті роботи будуть робити роботу? Якщо люди не працюють, то не мають за що купити результат роботи роботів.
Цікава ситуація буде. Корпорація може легко зробити продукти, але немає кому їх продати, бо всі кругом жебраки

Сприймайте роботів як інших покращених людей. А людей як людей із обмеженими можливостями. Та і все. В такій економіці все дуже добре працює.

Тобто якась корпорація створить покращених людей, щоб наймати їх створювати товар , а потім їм же продавати результат. В чому зміст діяльності цієї корпорації?

Тут конкуренція. Якщо не введеш покращених людей то програєш. (Це як комбайн і жати серпом). Буде базовий дохід. По суті деякі країни і без роботів планували таке частково. Зміст можливо і не зміниться кардинально.

Тобто якась корпорація створить покращених людей, щоб наймати їх створювати товар , а потім їм же продавати результат

О, достеменно ця ситуація була розписана Лемом у «Зоряних щоденниках Йона Тихого»:

«Двадцять четверта подорож», в якій він відвідує цивілізацію, яка віддала всю владу машині для встановлення планетарної гармонії.

«..Протягом шести днів Машина працювала цілодобово; вдень над нею плавали клуби диму, а вночі її оточувало яскрава заграва. Ґрунт тремтів у радіусі ста шістдесяти миль. Потім відчинилися двостулкові дверцята її циліндрів, і з них на світло висипалися загони маленьких чорних автоматів, які, перевалюючись наче качки, розбіглися по всій планеті, добираючись до найвіддаленіших її куточків. Куди б автомати не приходили, вони накопичувалися біля заводських складів і в приємних зрозумілих словах вимагали різні товари, за які платили негайно. За тиждень склади спорожніли, і гідні — власники заводів полегшено зітхнули, повторюючи: „Воістину чудову машину побудував конструктор!“
Справді, подив охоплював тих хто бачив, як ці автомати використовували куплені речі: вони одягалися в парчу і атлас, косметикою змащували осі, курили тютюн, читали книжки, проливаючи над сумними творами синтетичні сльози, та що там, вони могли навіть штучним способом вживати різні ласощі (щоправда, без користі для себе, оскільки вони харчувалися електрикою, але з вигодою для виробників). Тільки маси ішачів не висловлювали ані найменшого задоволення, навпаки, вони нарікали на все це, ще запекліше.»

Так мільярдерам люди не потрібні в принципі, лише можливість накопичувати ресурси

Це не так. Багатство це річ яка існує в порівнянні з бідністю. Якщо навколо немає бідних чи звичайних людей то твоє багатство нічого не варто. Це як божевільні які збирають мотлох в квартирі. Їм прикольно, але вони божевільні.

Для кого ті роботи будуть робити роботу?

Не всіх же людей замінять одразу. І у світі ще достатньо країн, де люди будуть працювати ще довго, індії різні. Для них і будуть робити.

Почитай новини останні, амазон до 2033 року замінить роботами 600000 працівників.

Робиш менше продуктів, підвищуєш ціну. Подивіться як працює housing market у «розвинених» демократіях. Навіщо щось будувати, якщо можна купити та тримати будинки порожніми 80% часу, а інші 20% часу здавати у 5 разів дорожче.

Це можна зробити якщо є монополія. ШІ тут ні до чого взагалі. Ненмає значення яка ціна на твій товар, якщо люди мають 0 грошей щоб його купити

Ще може бути такий варіант. Всі люди які втратили роботу почнуть обєднуватися в «паралельні суспільства». Тіпа ми робимо свою окрему реальність, з своїми грошима, ми торгуємо між собою і ШІ заборонений в будь-якому випадку. Хто використав ші назавжди забанений в нашому суспільстві. В якихось місцях чи державах в такий режим можуть перейти цілі держави де народ це підтримає.

Ще може бути такий варіант

Навіть питання «відрізнити» іноді виникає (чи буде виникати), тому обговорюють зазвичай використання в різних галузях окремо, і все настільки швидко змінюється та переплітається що схоже і не встигають за змінами та баченням якто має розвиватися.

Проблема в тому, що такі люди будуть жити дуже бідно, бо їх продукція буде неконкурентною. Навіть безробітні люди в країнах з роботами будуть жити краще.

З цим неконкурентною? Смисл їхнього виєивання буде саме у відмові від продукції виробленої кимось іншим крім них. Вони не зможуть купити абсолютно нічого створеного ШІ, бо в низ не буде грошей які цікаві для корпорації власника ШІ.
ШІ і роботи зроблять прикольний автомобіль без використання людської праці. Приходять до людей і кажуть — купіть всього за 10 тис доларів. А вони кажуть «чувак, у нас є 0 доларів. Нас не беруть на роботу де платять долари». Але якщо хочеш можемо по бартеру. Ми тобі два мішка капусти можем дати за цю класну машину яку ми не зможемо заправити бо в нас немає доларів щоб купити бензин який роблять роботи з нафти яку добувають роботи.

Смисл їхнього виєивання буде саме у відмові від продукції виробленої кимось іншим крім них.

Вони будуть жити на значно нижчому рівні комфорту та продуктивності. Це буде схоже на життя в умовах XIX–XX століть, можливо навіть суворіше, бо сучасна цивілізація побудована на автоматизації. Більш-менш рівень життя буде тільки у країн з природними ресурсами і достатньою кількістю людей для ручної праці. Раша от буде жити у будь-якому випадку, бо у світі роботів ресурси стануть основним золотом, власне це вже відбувається зараз з рідкоземельними ресурсами.

бо в нас немає доларів щоб купити бензин який роблять роботи з нафти яку добувають роботи.

Ще немає доступу до зімельних ділянок і води. Вже зараз значна кількість водоємів відгорожена парканами. А особисте сільхоз-поле будь-де без дозволу не влаштуєте.

Тіпа ми робимо свою окрему реальність, з своїми грошима, ми торгуємо між собою і ШІ заборонений в будь-якому випадку. Хто використав ші назавжди забанений в нашому суспільстві. В якихось місцях чи державах в такий режим можуть перейти цілі держави де народ це підтримає.

Коли раніше зустрічалися паралельні суспільства — більш-технологічно-розвинені і меньш-технологічно-розвинені — закінчувалося це, як правило, геноцидом.

А як же емоції? Як ці роботи будуть природньо виражать гнів, сміятися, плакати ітд. Футбол — це же мелодрама сучасності.

Вже. «Віртуальна акторка Тіллі Норвуд спричинила скандал у Голлівуді»
ua.korrespondent.net/...​ynyla-skandal-u-hollivudi

Ось цікавіше новина:" Раніше повідомлялося, що Кенза Лейлі, біонічна красуня в хіджабі з Марокко, була коронована першою в світі Міс ШІ (Міс Штучний інтелект)"
Цікаво,а як тоді виглядає Містер Ші?)

Цікаво,а як тоді виглядає Містер Ші?)

думаю він схожий на котика, всі люблять котиків)

Але ж вона не Міс!

Цікаво,а як тоді виглядає Містер Ші?)

Як шварц звісно!

ШІ не погоджується з вами, ось, що пише: «Згідно з рейтингом пластичного хірурга Джуліана Де Сільва, найкрасивішим чоловіком у світі є Аарон Тейлор-Джонсон, чиї риси обличчя відповідають „золотому перетину“ на 93,04%.»

та ну нє, будь який нексус в стораз красивіше

найкрасивішим чоловіком у світі є Аарон Тейлор-Джонсон

якщо порівнювати з їжою, то цей красень буде вівсянка на воді і навіть до бутера з маслом не дотягує

Да хз, для мене красота чоловіків в іншому, не в зовнішності взагалі. Але ж у всіх смаки такі різні,що тут гармонії не знайдеш)

Таких прикладів у історії повно. Майже всі винаходи. Випадково знаходять що працює а потім ще дуже довго розбираються як і чому.

Ну... ми не знаємо як людина грає в шахи. Але є програми, які це роблять краще. По-іншому, але краще.

Так само і тут, мова йде про те, що GPU буде робити більшість роботи краще (та дашевше) за людей. Звісно що по-іншому.

Збираються перевершити людину в конкретних задачах.

в шахах дуже мало простору для креативності

Тому фішер видумав шахи фішера

Збираються перевершити людину в конкретних задачах.

в питаннях говнокода йому вже рівних нема!

для топ «нема рівних» в тому по ідеї потрібна креативність, десь бачив щось типу competition такого роду (без ШІ участі), але де... ніяк не згадується

Ну це про це воно і є: «для топ» бо дебютна теорія на десятки ходів наперед це не про креативність, «без ШІ участі» бо це все одно що змагатись із трактором в перетягування каната

youtu.be/...​AYJEs?si=t-w8Oi5I665IT4G0

Ну це про це воно і є: «для топ» бо дебютна теорія на десятки ходів наперед це не про креативність

Ну... ти спробуй це запамʼятати. В принципі серед гросмейстерів є прислівʼя, що якщо ти дивився варіант два тижні тому, то вважай що ти його не дивився взагалі. А в деяких схемах повторюють навіть на наступний день.

Інша ситуація, що компʼютери довели, що людина погано грає будь які позиції, тому можна грати майже все що завгодно.

Ну а так є досить цікавий факт, що в шахи 960 сильніші гравці ті ж самі. Веслі Со став чемпіоном світу по 960 навіть не знаючи правил!

Ну а так треба визначати що є креативність, бо може зʼясуватися, що її взагалі не існує, люди мислять шаблонами.

мені не тре запамʼятовувати, хай запамʼятовує той хто хоче в топ по шахах

Сперечатись нема про що, бо відсутність креативності != мало простору для креативності

І шахи погана аналогія до роботи, бо грати без ШІ це штучна ситуація якщо розглядати шахи як аналогію роботи

Корпорація ж не збирається нікому створювати чесну дуель чи лабораторні умови. Корпорацію цікавить конкретний результат. Грубо кажучи якщо буде ШІ-кодер з прийнятним результатом — питання вирішено. А кому подобаться програмування — ну кодьте собі в задоволення доки заощадження дозволяють

шахи погана аналогія до роботи

Так, цікавіше розглядати з точки зору чогось ближчого до айті, нп: звичайного щоденного кодування — та як значну частину того — шаблону діяльність. Тоді цікавити буде чи справиться ШІ з шаблоним кодуванням, та розглядати не зараз, а з часом (бо більш цікаві саме перспективи, а що зараз і так всі для себе якось визначили).

ну те що зараз є не годиться навіть на нудотне крудошльопство, максимум це тулза в умілих руках, і граната в неумілих

Але цього вже досить, щоб підвищити ефективність існуючих команд.

Потреба в нових командах чи розширенні існуючих — велике питання в короткій перспективі. І навіть на такі кейси на ринку купа конкуренції. В середній і довгій — не так однозначно

Цього досить щоб проблеми з пошуком роботи були наступні років 3-5

От я часом розмірковую, які попередні умови для відновлення ситуації до ринку кандидата.

Навіть якщо «великі» обіцянки ШІ посипляться, те що є — вже змінило індустрію, і нікуди не дінеться. Тобто передумов нема.

Прорив у ШІ — ще гірша ситуація для кандидата
Крах доткомів 2.0 — це ще гірша ситуація для кандидатів
Розширення війни на глобальний си регіональний рівень — всім у світі буде бобо економічно

з того що може створити передумови — чергова пандемія, черговий QE, чи наприклад згортання аутсосинга у всякі індустани (решорінг). Поразка росіі теж — дешеві ресурси. Поки що нічого з цього не малюється

Це просто ілюстрація, питання креативності це офтопік.

Просто припустимо, що розроблено агента, який професійоно сильніший за всіх розробників, так, вважай він працює видалено, комунікувати можна лише через месенджер та jira, ... А більше акцентую увагу, що для того, щоб перевершити людину, не обовʼявково має емулювати її та розуміти процеси у мозку.

Тут я згоден, необовʼязково щоб це відбувалось як людина це робить.

А з ширшого боку — ну я дуже сумніваюсь що піджакам які звикли об айті витирати ноги й звикли ложити на беклог і техфідбек, справді потрібен «ШІ агент кращий за всіх програмістів» ;) Їм скоріше потрібен «ШІ агент прінєсіподайідіна***нємєшай»

як працює мозок людини

Мозок не потрібен взагалі, пруф — монобанківські лимони

Видихніть народ, людство навіть на крок не наблизилося до AGI

Чому у світі так багато ідіотів? І всі ці ідіоти такі знамениті

Смішно бачити такі «ініціативи». Спочатку вони дали диктаторам технології, бо «глобалізація» (насправді банальна жадність). А тепер пишуть петиції, на які диктатори срати хотіли.
Не зробите ви, то будете працювати за трудодні під керівництвом китайського найсвятішого ШІ і його мудрого батька Сі.

Василіску Роко ця інформація згодиться...

А петицию кому они хотят направить?

Підписатись на коментарі