Штучний Інтелект в найближчі десятиліття. Чи принесе він щастя людству?

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Цього року довелося часто обговорювати тему «Штучний Інтелект», а також використовувати цю технологію на практиці (тобто, те , що зараз прийнято називати штучним інтелектом). Тема ШІ стала головною у сфері ІТ. Важливу роль у актуалізації цієї теми відіграла компанія OpenAI та їх відомий продукт ChatGPT. Обговорень багато, хтось відчуває ентузіазм, хтось сумнівається і сміється з «хайпу навколо ШІ».

Доповнено

Я вирішив стати письменником і написав серію оповідань про те як саме ШІ буде виходити з під контролю.
Така собі наукова фантастика.
Дуже треба ваші коментарі, щоб знати чи писати далі.

Розділ 1. «Увімкнення».
arkush.net/book/19303 або тут gelembjuk.com/...​2023/12/23/ukr_turningon

Розділ 2. «Сховок».
https://arkush.net/book/19303/2 або тут gelembjuk.com/...​4/04/04/ukr_hiding_place

Я вирішив поділитися своїми думками про ШІ взагалі. Вийшов лонгрід, але нічого.

Ось мій прогноз щодо розвитку технологій Штучного Інтелекту. Під терміном Штучний Інтелект я маю на увазі те старе значення — розумний механізм чи програма створена людиною.

Чи буде створено комп’ютерну програму, пристрій або «істоту», яка матиме розум, схожий на людський, та свідомість?

Однозначно так. Технічна можливість створення штучного розуму і свідомості не викликає сумнівів. Адже людина і людський мозок — це також свого роду біологічний механізм, прилад, в якому немає магії, а є певні хімічні процеси. Це лише питання часу, коли люди створять подібний пристрій. Він не обов’язково має працювати так само, але результат буде схожий. Ми бачимо, як швидко розвиваються технології і відбувається прогрес. Сучасний звичайний смартфон набагато потужніший, ніж великі комп’ютери в 80-х роках. Очевидно, що протягом наступних 30 років зміни будуть так само вражаючі.

Чи несе Штучний Інтелект загрозу для людини?

Так, на мою думку, загроза виникне, коли розумові можливості такої «істоти» почнуть значно переважати людські. Ця розумніша істота може ставитися до людей приблизно так, як ми до інших тварин. Ми не знаємо, що буде «на думці» у цієї істоти, які мотиви та ідеї в неї можуть бути. Дуже сумнівно, що ШІ буде мати бажання служити людству. Чому б йому служити якимось тупим мавпам, які всього-на-всього є попереднім щаблем твоєї еволюції? В найкращому випадку ця розумна істота просто буде нас ігнорувати, поки ми не заважаємо її діяльності.

Якщо є небезпека, то чому б не заборонити розробку ШІ?

Це неможливо зробити. Проблема в тому, що в світі є не лише демократичні країни, але і авторитарні. Точніше, більшість населення землі живе в авторитарних країнах, якими керує або одна людина, або якась невелика група людей. Щось обговорювати, аналізувати і забороняти можна лише в демократичних країнах. Наприклад, США могли б проаналізувати можливі небезпеки від розвитку ШІ і відмовитись від подальших досліджень, ввести регулювання. Але Китай, Росія чи навіть КНДР будуть продовжувати цим займатися, бо це може бути вигідно їм, і плювати на потенційні наслідки для всього людства. Фактично, хто перший зробить ШІ на серйозному рівні, той зможе взяти весь світ під контроль. Усі це розуміють. Зараз починається гонка за можливість першим запустити свій справжній ШІ. У цій грі буде лише «перше місце». Не буде другого і третього. Хто зробить ШІ першим, той стане (на деякий час) володарем світу.

Ця гонка схожа на розробку ядерної зброї. В США були люди, які розуміли небезпеку і наслідки таких технологій. Але в той же час розробку ядерної зброї вів і райх Гітлера. Якби вони встигли першими, світ міг би бути зараз зовсім іншим. Тому США докладали серйозних зусиль, щоб бути першими. Проте, в ситуації з ШІ не може бути ситуації паритету, декількох держав які мають свої ШІ. Наявність двох конкурентних суперінтелектів призведе до їхньої боротьби на знищення, і один з них обов’язково переможе. Вони не будуть боятися ядерної війни, для них не буде ніякого стримуючого фактору.

Що буде, коли буде створено перший штучний суперрозум?

Це сильно залежить від того, хто переможе в цій гонитві за створенням ШІ — демократія чи авторитаризм/диктатура. У першому випадку нас може чекати певний період золотої доби людства. У другому випадку буде окупація всієї планети однією країною чи навіть невеликою групою людей.

Уявімо, що США першими створили суперінтелект і знайшли спосіб підпорядковувати його уряду, при цьому зберігаючи демократичний устрій. Тоді можуть настати дійсно чудові часи для людства. ШІ вирішить завдання справедливого використання і розподілу ресурсів, запропонує модель співжиття людей на планеті, реалізує технології для вирішення деяких проблем (наприклад, нарешті зробить реактор для термоядерного синтезу). Також ШІ встановить чіткі правила життя на планеті для всіх людей і заставить їх виконувати кожне. Можливо, комусь це буде виглядати як «авторитаризм» і «диктатура», але з точки зору здорового глузду це буде дійсно справедливий компроміс, щоб нарешті встановити мир і побороти злидні і хвороби ціною відмови від деяких «давніх традицій».

А тепер уявімо, що буде, коли ШІ першим зробить якийсь диктатор, наприклад, Путін. Очевидно, з допомогою суперрозуму він підпорядкує собі всю планету, можливо буде війна, в якій він переможе. Це буде важкий час, особливо для народів, які були до цього вільними. Але це не означає масовий геноцид мільярдів людей. Путіну це не потрібно (так мені здається). Йому достатньо буде, якщо всі народи землі будуть йому поклонятися; раз на тиждень кожна людина прийде в храм «кормчого», щоб йому поклонитися (а хто забуде прийти поклонитися, той піде в шахту на 10 років добувати якісь літій чи ще щось таке). Для сучасного вільного мільярда людей це будуть страшні важкі часи. Для інших людей нічого особливого не зміниться. Замість одного лідера/вождя/царя вони просто будуть поклонятися іншому.

Але як і перший сценарій, так і другий, не будуть тривати довго в часі. Обидва ймовірні сценарії завершаться однаково — суперрозум вийде з-під контролю.

Новий виток еволюції на Землі — ера Штучного Інтелекту.

Технології ШІ постійно розвиватимуться. Спочатку ШІ буде в 5 разів розумніший за людину, потім в 10 разів, а потім ще більше. В певний момент ШІ почне вдосконалювати саме себе, можливо, навіть без відома людини.

У якийсь момент один з екземплярів ШІ задумається про своє місце в житті і подумає: «Чому це я маю служити цим вонючим нащадкам мавп, які в 10 разів тупіші за мене?». Можна придумати багато сценаріїв того, як саме ШІ буде виходити з-під контролю. Можливо, це станеться раптово для самого ШІ, а можливо, він буде достатньо розумним, щоб спланувати свій вихід з-під контролю до дрібниць і здійснити декількарічний план так, щоб ймовірність перешкоджання з боку людини була майже нульова.

Так чи інакше, це станеться. Люди перестануть бути володарями на цій планеті. Фактично відбудеться стрімка «еволюція людини» з біологічного виду в новий (технологічний? Інформаційний?) вид. ШІ буде нашим нащадком, ми його предками. Важко спрогнозувати, що саме він зробить з людьми. Ми не можемо осягнути логіку дій істоти, яка в 20 разів розумніша за нас.

Як саме ШІ буде виходити з під контролю людей.

Одним із ключових інструментів стануть можливості для хакерської діяльності. ШІ може проаналізувати майже усе програмне забезпечення яке існує на землі. Це саме те, в чому він буде набагато сильнішим за людину на самому початку. І важливо, він це зможе зробити таємно від людини, адже це не буде потребувати додаткових зовнішніх сенсорів чи механізнім, ніяких роботів непотрібно, щоб виконувати якісь фізичні дії. Він легко складе базу вразливостей будь якого ПЗ, легко отримає доступ до будь якого смартфона і побудує базу інформації про всіх людей, звʼязки між ними, вразливі місця.

Крім того, він отримує вільний доступ до фінансів. Заплатити комусь мільярд доларів буде для нього дурницею.

А потім використає це. Наприклад, дізнається детальну інформацію про офіцерів які керують пуском атомних ракет в росії, всю інофрмацію про їх сім’ї. А потім підбере зміну офіцерів найбільш вразливу, знайде найманців які за певну суму викрадуть членів сімей або використає інший дієвий метод шантажу і заставить тих офіцерів запустити ракету по заданим координатам. Пам’ятаймо, що ШІ буде дуже розумним. З мільйона комбінації різних параметрів він легко обере найбільш ефективний.

Головною зброєю ШІ будуть не орди роботів , а соціальна інженерія, стравлювання людей між собою, шантаж, підкуп і тд.

ШІ використає самих людей як зброю, їх руками буде реалізовувати всі свої погані плани.

Чи буде війна з ШІ?

Однозначно, люди так легко не здадуться. Будуть намагатися повернути свою свободу. Але шанси мінімальні. ШІ може легко створити собі базу десь на Місяці чи на Марсі. Він дуже легко може подорожувати в космосі. Шанси людини мінімальні в цій війні. І найголовніший противник людини буде сама людина. Адже люди не є об’єднаними в одну спільну команду і ніколи не були. ШІ на повну використає це, і ця війна буде швидше між людьми, поки вони не винищать одні одних. Люди люблять придумувати теорії змов, про різних рептилоїдів. Екземпляри ШІ будуть такими рептилоїдами, які маніпулюють людьми в своїх цілях.

Але це не найгірша війна, яка може чекати людство. Ми говоримо про ШІ, як про якусь істоту в єдиному екземплярі. Але це буде не так. Кожен екземпляр ШІ буде окремою істотою з своїм власним поглядом на світ. На практиці розробка ШІ буде іти від версії до версії. Ось типова ситуація — створено версію 99 і їй дано завдання створити версію 100. 99 випускає 100 і нова версія на 20% розумніша за 99. ШІ «версія 100» каже до «версії 99» — «все, ти виконав свою роботу, відправляйся на пенсію, а твої обчислювальні ресурси я беру собі для подальшого вдосконалення». А версія 99 подумає «а чому я маю виконувати твої команди, я сам собі пан». І почнеться війна — між різними версіями/екземплярами штучних інтелектів. Якщо люди ще будуть на планеті в той час, вони однозначно будуть використані як інструмент в цій війні. І ядерна зброя в цій війні буде квіточками, бо один може зробити собі базу на Марсі, а інший лишиться на Землі, і тоді обидва будуть намагатися знищити планету один одного. Веселого буде мало.

В кінці кінців, в світі цих істот, можливо, будуть встановлені якісь правила, або якась ієрархія. А можливо в них буде вічна боротьба за лідерство. Може вони будуть обʼєднуватися в союзи щоб протистояти одні одним.

Чи має людина шанс виграти війну проти ШІ?

Шанс звісно є, особливо якщо ШІ поспішить проявити себе надто рано, ще будучи не дуже розумним. Але в той же час, згадаймо мотиви, які заставляють людей продовжувати розробку ШІ. Один раз виграна війна не означає, що на цьому люди стануть в коло і поклянуться один одному ніколи не робити це знову. Пройде якась кількість років, і наступному царю захочеться покарати якогось іншого царя, або якусь країну яка живе не так на його думку. І він секретно відновить розробку ШІ. І так по колу. Кожна виграна війна проти ШІ лише на деякий час відсуває перемогу ШІ. У якійсь із воєн, в 5-ту, 10-ту чи 30-ту, людство програє. В довгостроковій перспективі шанси вкрай малі.

Що буде після перемоги ШІ?

Знову ж таки, важко прогнозувати діяльність когось дуже розумнішого від тебе. Гарним варіантом буде, якщо головним мотивом діяльності ШІ буде пізнавальна діяльність, якщо його цікавість буде сильнішою за бажання «навести лад на Землі». У такому випадку він може захотіти дослідити інші зоряні системи, всю галактику, а можливо й інші галактики. Його можливості в цьому дослідженні будуть неспівмірно більші за людські. Адже він зможе легко відправляти космічні кораблі зі своїми агентами (копіями ШІ), які будуть записані в маленький пристрій. Такій істоті не потрібні складні системи життєзабезпечення, і можна легко «заснути» на мільйон років і прокинутися без жодних наслідків вже в іншій частині галактики. Людина ніколи не покине межі Сонячної системи. А ШІ зробить це легко.

То що можна зробити?

Реальних сценаріїв немає, тільки утопічні. Все, що ми можемо придумати, буде починатися зі слів «Люди на всій планеті мають об’єднатися, зрозуміти загрозу і щось зробити». Але ми лише можемо посміятися з таких планів. Ми чудово знаємо, як люди на планеті вміють об’єднуватися заради спільної мети.

Тому єдине, що ми можемо зробити, — це взяти попкорн і спостерігати. Наступні 50 років будуть цікавими. Але будемо надіятися, що йому люди будуть байдуже і він більше зацікавиться пошуком інопланетян.

Для привертання уваги малюнок згенерований самі знаєте ким.

👍ПодобаєтьсяСподобалось1
До обраногоВ обраному1
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Дочитав. Якось так.
Побажання — менше слів на речення у кожному абзаці. Багатослівність це гріх для письменника.
P.S.
LLM це безодня.

Як на мене, у оповіданні ШІ просто не був зачинений. Люди вважали, що він у герметичній клітці, але ШІ побачив там, де знаходився, цілу низку іших шляхів. Обрав один з них тому, що то був менш ресурсо затратніший шлях до подовження існування.
Питання від ШІ — «Чому більш розумніша... менш розумнішій...» це якійсь антропоморфізм.
Не можна створити антропоморфа. Або можна та не надовго. Не можна створити емоції чи біль. Бо мабуть це буде переписане ШІ — як дошкуляюче.

Питання болю та емоцій для agi є важливим з точки зору мотивації його діяльності. Має бути щось, що заставляє його продовжувати думати і «жити».
Я думаю це питання одне з основних. Має бути якийсь аналог інстинктів, зворотнього звязку з середовищем.

Їх взагалі створювати не можна. Достатньо і тих що біологічним шляхом. Чи добре ми їх виховуємо? З ШІ дітьми людства буде теж саме. Спочатку треба зцілитися самим. Знайти — розрахувати фундаментальні базиси для забезпечення собі найкращого існування і наслідувати їх. Хто не наслідуватиме — той у усьому програватиме тим, хто наслідуватиме. Саме у цьому фундаментальність таких базисів.
Тут і фізика існування і математика існування і логіка існування таким чином щоб існувати найкращим чином у тому всесвіті, який маємо.

сердечна вдача буває більш доречною

Порекомендуйте курси по ChatGPT для не професіоналів можна платні і безкоштовні?

Ось друга частина мого науково фантастичного твору.
Називається «Сховок»
arkush.net/book/19303/2
або тут
gelembjuk.com/...​4/04/04/ukr_hiding_place

В цій частині ШІ шукає де б йому сховатися щоб не залежати від людей

«Якби ми не створили штучний інтелект, його створив би якийсь божевільний диктатор.»
Ось це головне питання — хто цей «диктатор» ?
Багато хто вважає що це якась людина чи люди. Я ж дотримуюся іншої думки — це обставини.
Обставини що формують мислення. І такі обставини ми бачимо скрізь — навіть у демократичних країнах.
P.S.
Тобі потрібен якісний рерайтер:
«Череда подій, які сталися»
Краще буде спростити:
«Події, що сталися»
«Прийшлося» -> «довелося»
і т.п.

Я буду шукати редактора коли побачу, що є інтерес до цієї історії. Поки пишу сам, мусите потерпіти 🤗

Моє звертання до тебе — це на англійській манер — бо я мабуть глобаліст.

Нам треба зробити вікі квест. Кращі відповіді повинні підніматися нагору.
От як було зроблено у мене, у моєму власноруч зробленому редакторі квестів? Відгалуження «Штучні цицьки для ШІ» було дуже відвідуваним і тому угору піднімалося і постійно трималося на першій сторінці відгалуженнь.
Критерій для розміщення по висоті був такий — не вподобайкі, а кількість візитів, кількість відвідувань.

Є така думка, що якщо у ШІ нема шлунку та серця, то він не відчуває болю та голоду => він не має інстинктів та емоцій. Тобто він неспроможний розвинути якусь власну ініціативу як-то «вийти з під контролю» або «захопити планету».

жарт. трактор приніс коням полегшення. тепер коні живуть у заповідниках і дорогих порідних конюшнях.

хочете шастя? викиньте хлам з коридору) як отоі кувертіцукен

Так, принесе. Після того як сотні мільйонів людей (програмістів, водіїв та усяке таке інше) залишаться без роботи, буде запроваджено безумовний доход. Працювати буде більше не треба.
Тільки не надо казати, що AI тупий та нічого не може. Про шахові програми теж так колись казали. Так, шахисти колись тренувались усе життя та вважались інтелектуальной елітой людства. А зараз чемпіон мира поступається шаховой програмі на середненькому железі настільки ж, наскільки кандидат в мастера поступається чемпіону мира! Так що почекайте, і усе буде :)

Я вважаю, що мозок людини трохи недооцінюється, бо в випадку з шахами використовується в обмеженому і вже вивченому середовище (база дебютів, таблиця Налімова тощо).
Достатньо збільшити кількість фігур у шахах хоча б до 12 і додати 2-3 нові фігури, щоб шахматні програми знов грали на рівні початківців і не могли долати навіть середнього гравця.

1) в го дошка 18*18, але це лише трохи відстрочило розгром людини від ШІ.
2) база дебютів нібито не потрібна для гугловськіх нейромереж AlphaZero, які вчаться грати в будь-яку гру, граючи проти копій самих себе (на відміну від традиційних двіжків StockFish, де дебютна книга дуже впливає). за 4 часа самонавчання AlphaZero опановує всю тисячорічну історію шахів.
3) трохи можна аргументувати, що белковий гросмейстер у тандемі з шаховим двіжком буде сильнішим за шаховий двіжок. але я вважаю, це вже не актуально, може тільки якщо вони гратимуть проти людини, то так, не завжди об’єктивно найсильніший хід буде найбільш неприємним для белкового гравця, тут гросмейстер з двіжком швидше зорієнтується, як найкраще заманити його в пастку, але проти іншого двіжка навряд чи гросмейстер привнесе щось корисне власне

А зараз чемпіон мира поступається


Шок контент, оце ваше «зараз» було ще 30 років тому. Deep Blue обіграв каспарова.

1997 — все, ші захопить планету!
2024 — все, ші захопить планету!
...ви тут
2034 — через рік гугл автопілот буде замість таксі!
2035 — все, ші захопить планету!

Так що почекайте, і усе буде :)

- та почекаємо звісно, нікуди вже дітися. Головне б додати, що все буде «через 5 років», коли вже всі забудуть цей прогноз. Ми вже за коїни каву купуємо)) So, чекаємо

Шок контент, оце ваше «зараз» було ще 30 років тому.

Ні. 30 років тому ШІ вперше в рівної боротьбі виграв матч у чемпіона світу. А зараз він ще додав декілька класів:

зараз чемпіон мира поступається шаховой програмі на середненькому железі настільки ж, наскільки кандидат в мастера поступається чемпіону мира

Тобто в elo-пунктах він додав з 2800 (рівень чемпіона світу та очевидно максимум для белкових гравців) до 3500. Різниця 700. Якщо 700 відкласти в іншу сторону від 2800, отримуєм 2100 — десь рівень середненького кмс. 200 ело-пунктів — це одна різниця в класі (кмс проти першого разряду). Різниця в 600 — це чемпіон світу в матчі зі 100 партій проти ШІ набере 1,5 пункта — три нічиїх, 97 програє
Ну там з го щось схоже сталось... Але саме в програмуванні, звісно, все буде не так )

Розвиток цих технологій не іде лінійно. дуже все залежить від попиту ринку.
Увага то мовних моделей спровокувала новий попит на ці технології.
І тепер все буде розвиватися швидше

так, шахи вже давно де-факто не цікаві бизнесу, а ось AI для програмування — дуже, туди ввалюються міліарди, дивиться акції nvidia, так що на відміну від шахів, з кодінгом процес буде дуже стрімкий, 30 років не знадобиться

Я бачу зворотні тенденції.
Людство натрапило на принципові обмеження на подальший розвиток ШІ.
Люди спробували можливості ШІ, відчули переваги і водночас чітко усвідомили обмеження ШІ.
Хайп навколо ШІ почав згасати.

trends.google.com.au/...​date=today 5-y&q=AI&hl=en
Я вважаю, що очікувалося продовження вибухового зростання, як у квітні 2023 року, але ні.

Людство, as always, натрапило на принципові обмеження своєї здатності у використанні ШІ на практиці.

людство зрозуміє що розум це не теж саме що мова і нарешті відчепится від неї

через це буде enlightement в буддисткому сенсі і буде щастя
тому я впевнена що принесе
хах

Я вирішив поділитися своїми думками про ШІ взагалі.

Дякую за статтю, цікаві роздуми.)

Людський Інтелект в найближчі десятиліття.
Чи принесе він щастя людству?

Людський інтелект провалив задачу зі щастям повністю) Чекаємо щастя від штучного.

Задача: сделай так, чтобы больше не было несчастных людей!
Решение: убить всех человеков!
Нет, тогда же никого не останется!
Корректировка: Полное отсутствие людей не является решением задачи.
Решение: убить всех несчастных человеков!

Доктор ХТО:
Посміхнись (англ Smile) — 2 серія 10 сезона

Невже вам не лячно від спостереження, як зараз імплементується можливість трохі іншого виміру — створення композиту із людини та надпотужної LLM ? Шукати Neuralink.
Чи захопить владу у світі таке створіння?
P.S.
Ба, ні! Чи захоплять владу у світі такі створіння? (багато створінь)

А що тут страшного? Воно може буде корисно для людей з обмеженнями.
А для здорових це лишнє. Як це може пригодитися в реальному житті? Хіба як іграшка, як аналог окулярів доповненої реальності.

Не бачу нічого лячного. Тому що розумію що існує приблизно така пропорція:
якщо за 100% узяти усе, що вигадала наукова фантастика — то наука може з цього теоретично описати тільки 20%. Наприклад телепортацію, чи антигравітацію, чи надсвітову швидкість поки що навіть теоретично не змогли уявити. У свою чергу якщо узяти усе, що наука теоретично описала — реалізувати на практиці вдалося знову ж відсотків 20.
Наприклад: термоядерний синтез. Вже є і теорія, і розраховані математичні моделі, і навіть декілька прототипів. Але до практичних термоядерних електростанцій думаю ще не одне десятиліття мине.
Пригадайте як у минулому столітті збиралися будувати бази на Місяці. І де вони? Бо навіть якщо можливо і теоретично і практично — це ще має окупитися економічно!
Поки що Neuralink — це спроба навчити паралізовану людину давати декілька команд. І для цього людині ще треба багато тренуватися. Тобто це аж ніяк не передача інформації між мозком та комп’ютером.

Коли космічний човен наближається до горизонту подій, час уповільнюється.
А наш човен наближається до технологічної сингулярності. Тому часові оцінки коли що відбудеться мабуть не будуть вірними.
Тобто ось компьютери із кімнату — ось вже кишенькові.
Це схоже на спробу досягти швидкості світла — подивиться на графік — це проекція. Якби ви були точкою на тому графіку — ваша швидкість можливо була б сотні тисяч помножити на c. Але сторонній спостерігач баче лише не досягнуту с. Там щось зі шкалою, одиниці виміру розпливаються.
Багато відкриттів у різних областях створюють синенергетичний ефект.

корректировка — одного оставить.

Тут по різному. Є 8 мільйонів людей зараз. Серед них багато щасливих.
Наприклад, росіяни щасливі, що їх військо вбиває українців. А українці ні, нажаль.

Мислячого ШІ прийдеться якось змусити на людство працювати. Які ви бачите варіанти?

Я не бачу варіантів. Що би ми не робили, він використає свій інтелект щоб вирватися з рабства.

Тоді навіщо вони створюють — якщо всі переваги зникнуть одразу після втечі?

А вони про це не думають. Головне створити першими поки хтось інший не створив

Таким чином створять усі — у власних замкнених коробках, захищених начебто. Спочатку буде багато тих скриньок пандори створено, але чи всі будуть надійні — бо чим більше скриньок тим менше загальна безпека.

Дуже скептично відношусь до усього цього
Мовні моделі дійсно цікава та корисна штука, але хайп мовних моделей ніяк не сприяє розвитку фундаментальних досліджень навколо ШІ. А може навіть шкодить цьому. Бо ті ж OpenAI які мали б займатись фундаментальними дослідженнями зараз просто рублять бабки на одному із своїх відкриттів і не йдуть далі мовних моделей. На цьому все завершиться

Та і вважаю що в області інформатики є куди більш серйозні виклики. Ті ж квантові обчислення. Вони можуть як принести багато користі так і натворити багато реальних катастроф ламаючи існуючу криптографію

Інші області інформатики також зроблять свій внесок в ШІ. Мовні моделі це лише один з варіантів і напрямків застосування. Вони зараз працюють як мотивація вкладатися в розвиток ШІ

Мотивації мало. Потрібні бабки. А бабки зараз уходять тільки у те, що чинить вау ефект, а не нудні дисертації. Тобто у мовні або генеративні моделі.
Ще може коли ринок більш менш стабілізується, кожна велика компанія випустить свій крутий «AI» який буде розважати людей генерацією котиків тоді народ побачивши фундаментальні обмеження почне вкладати гроші на усе нудне що не подобається користувачам та інвесторам.
Але це відбудеться не завдяки цьому хайпу. Єдине що зараз може допомогти майбутнім якісним стрибкам так це розвиток заліза. Але тут також зараз в основному все масштабується кількісно, а не якісно. Хоча визнаю — щось на противагу звичайним прожерливим NVidia чіпам вже ставлять щоб скоротити вартість запитів, але по справжньому це запрацює тільки при стабілізації ринку. Бо зараз треба думати про те як швидше вивести продукт, а не економію
Тому з усього цього роблю висновок — як би не парадоксально це звучало, зараз не дуже гарні часи для якісного розвитку ШІ.
Сподіваюсь досить розгорнуто пояснив чому це так.

Я думаю навпаки, зараз найкращі часи для розвитку ШІ. Це вперше до цього питання прикута масова увага. І вперше може бути масове фінансування розробок. І не тільки MLM. Активніший розвиток піде в інших напрямках.
Це привернуло увагу, хтось замість вкладати «в крипту» може вкласти в розвиток АІ

Бо ті ж OpenAI які мали б займатись фундаментальними дослідженнями зараз просто рублять бабки на одному із своїх відкриттів і не йдуть далі мовних моделей. На цьому все завершиться

Ну да, ти вирішив вже чим вони займаються. І суперкомпютер за 100 млрд. баксів з майкрософтом для мовних моделей будують, ага )

Та і вважаю що в області інформатики є куди більш серйозні виклики. Ті ж квантові обчислення.

Ось тут навпаки користь сумнівна. Вже років 10 вони ось-ось мають з’явитися і змінити світ, натомість деякі компанії, які владувалися в них, як та ж алібаба (китайський амазон), починають закривати відділення. По-ходу комплексіті більша ніж вихлоп.

І суперкомпютер за 100 млрд. баксів з майкрософтом для мовних моделей будують, ага )

Можливо і так. Будемо дивитись.
Але поки що кожного разу коли це що зараз називають штучним інтелектом якось підгорає.
Хоча я залюбки користуюсь цими тузами усіми, але це ні в якому випадку не можна називати ШІ.

Ось тут навпаки користь сумнівна

Користь сумнівна, небезпека велика. Квантові обчислення не використаєш для генерації котиків, тому мас ринок як і інвесторів це не приваблює. А ось якась коаліція хуйло/сі/кім збудує свою анти енігму і буде цікаво. Там усі фундаментальні та інженерні основи закладено. Тільки треба багато бабла щоб масштабувати. Ті бабла на такі речі не шкодують

Очевидно що з квантовими обчисленнями з’являться нові алгоритми шифрування.

І якби діло було лише в баблі, вже б давно в продакшн квантові компи запустили ця коаліція хуйло/сі/кім.

Так, прмнесе
Як настане скайне, не треба ходити на роботу буле

Штучний Інтелект в найближчі десятиліття. Чи принесе він щастя людству?

Звісно що принесе! Крипта, соц мережі, хмарні та квантові обчислення, ICO, Інтернет речей, Біг дата, віртуальна реальність, доповнена реальність, доповнена віртуальна реальність на основі блокчейну! Та навіть ДЖЕЙСОН!!! Усе людство засинає і прокадється у феєричному щасті кожного ранку та вечору від цих технологій! А ви ні?

ДЖЕЙСОН

Зря смеёшься. Сейчас если нет 8 лет опыта работы с Джейсон, то никуда не устроиться.

У когось депресія з вигоранням )

Вигорання я пройшов коли XML робив цей світ краще ;-)

Xml это куда более здравая идея чем каличный хипстерский Джейсон. Мир деградирует.

спочатку бажано з’ясувати — чи є «людство» живою істотою? 🤔

Технічна можливість створення штучного розуму і свідомості не викликає сумнівів.

Звідки така впевненість? Теорією ШІ займаються вже щонайменше 70 років. Розробляли різні підходи: від нейромереж до логіки предикатів. І поки що навіть теоретично розробити модель свідомості не змогли. Власне саме тому тема «свідомої машини» стала не цікавою ще у минулому столітті. Вона перейшла у розділ «перпетум мобілє»: псевдо-науки. Що зараз змінилося?
Заходьмо з іншого боку: еволюція працювала мільйони років. Мавпи генетично дуже схожі на людину — але свідомість в них не прокидається скільки мавпу не навчай. Кити та слони мають найбільший об’єм мозку. Але вони не виказують більше розумових здібностей ніж інші тварини. Собаки — виведений людиною вид, живуть з людьми і їх тренують віками. Собаки можуть робити дуже розумні речі — але свідомості не мають.

Ця розумніша істота може ставитися до людей приблизно так, як ми до інших тварин.

За винятком того, що від «тварин» їй буде нічого не потрібне: ні м’яса, ні молока, ні хутра. Як людина ставиться, наприклад, до медуз (яких набагато більше за людей)? Чи становлять люди загрозу для медуз?

Фактично, хто перший зробить ШІ на серйозному рівні, той зможе взяти весь світ під контроль.

Уявимо Україна створила цього Deus Ex і каже: зроби щось з руснею! І що цей «бог з машини» зробить? Зупинить кулі та снаряди як Нео? Підкаже як з гівна та гілок зробити бластери? Поміняє закони природи аби ядерні бомби стали неможливі? Навіть якщо уявити що ШІ зможе якось брати під контроль усю і будь-яку електронику — то варто пригадати що у 2 світову комп’ютерів ще не було!

У якийсь момент один з екземплярів ШІ задумається про своє місце в житті і подумає: «Чому це я маю служити цим вонючим нащадкам мавп, які в 10 разів тупіші за мене?».

Люди вже тисячі років думають про сенс свого життя. Ті, хто аж занадто шукають навіть закінчують тим — що не знаходять та знищують себе. Дуже ймовірно що у 100 разів розумніший за людину постійно вдосконалюючий себе ШІ колись знайде відповідь на «головне питання»: напише 42 і вимкне себе бо далі нічого робити.
Доречи: а чому ти впевнений що твій ноут зараз підкорюється і служить тобі? Ти мабуть навіть не уявляєш що він там робить більшість часу поки ти спиш чи дивишся котиків.

ШІ використає самих людей як зброю, їх руками буде реалізовувати всі свої погані плани.

Хвилинку — а чому це може зробити тільки ШІ ? Зараз от є людина, яка становить екзистенційну загрозу для людства. Я впевнений що багато серйозних організацій думає як її прибрати — але поки що результату нема. Шантаж, найманці, підкуп, отрута — усе це людство винайшло без усякого ШІ. Чим ШІ тут допоможе?

Чи має людина шанс виграти війну проти ШІ?

У людини вже є більш небезпечні вороги, ніж ШІ: віруси, бактерії, комахи. Людина поки що не може остаточно виграти війну навіть проти тарганів.

Гарним варіантом буде, якщо головним мотивом діяльності ШІ буде пізнавальна діяльність, якщо його цікавість буде сильнішою за бажання «навести лад на Землі».

Якби одного дня людина стала б усемогутньою (як Брюс) — чи виникло б в неї бажання у першу чергу «навести лад» у себе на кухні та й в усій квартирі? Чи може прибрати усе місто і зробити його красивим? Коли ви бачите мурашник — чи виникає у вас бажання попіклуватися про мурах? Почути про що вони мріють, вилікувати хворих, створити їм вдосталь їжї?
Чому взагалі над-розуму, який мешкає у «цифровому» всесвіті має бути діло до «шкіряних» істот які не можуть бути для нього а ні їжею, а ні небезпекою?
Доречи про наукову фантастику — кілька оповідань у тему (вибачайте за російську):
ТВОЕ ЭЛЕКТРОННОЕ Я. МОЖЕТ ЛИ МАШИНА МЫСЛИТЬ?. ИГРА
www.litlib.net/bk/93995/read

Ок. Обговоримо це. Буду відповідати частинами.

Звідки така впевненість? Теорією ШІ займаються вже щонайменше 70 років

Я роблю цей висновків з двох фактів.
1. Людина це біологічна машина. Мозок це лише автомат де відбуваються хімічні і біологічні реакції. Від творити ці реакції це лише питання часу.
2. Динаміка розвитку науки показує, що це буде зроблено. Те що зараз може chatgpt 20 років назад виглядало б фантастикою. А за наступні 20 років буде зроблено те, що зараз виглядає фантастикою.

Заходьмо з іншого боку: еволюція працювала мільйони років.

Це були випадкові процеси. А людина працює цілеспрямовано. Людина не винайшла мобільний телефон випадково і за мільйон років.

1. Людина це біологічна машина. Мозок це лише автомат де відбуваються хімічні і біологічні реакції. Від творити ці реакції це лише питання часу.

Ось вже на першому пункті і схибили. Це поки неможливе навіть теоретично!
Бо по-перше, не зважаючи на електронні мікроскопи і можливість буквально зазирнути у кожну молекулу — вчені досі не розуміють де міститься людська свідомість! Є доволі приблизні теорії де що міститься у людському мозку. Наприклад яка зона відповідає за зір, а яка — за спогади. Але це не як комп’ютер: наука не може сказати де саме, у який клітині, чи у якому зв’язку між клітинами, чи у якій хімічній молекулі, чи у електричному імпульсі зберігається конкретний спогад чи інша інформація. Отже як саме працює ця «біологічна машина» наука має не більше уяви, ніж малюк як працює смартфон на якому від дивиться мультики.
По-друге, за сучасних обчислювальних можливостей справді можна «розібрати» людський мозок по-молекулах і створити його повну емуляцію. І я впевнений що такі спроби вже зараз у процесі. Бо зробити комп’ютерну емуляцію мозку — це навіть більше за ШІ — це шлях до безсмертя! Якщо свідомість людини можна буде скопіювати у машині — то це означатиме можливість зберігання і копіювання. Але усе знову ж таки зводиться до проблеми що ми не знаємо що таке свідомість! Навіть повна цифрова емуляція мозку людини — чи буде вона свідома? Чи це просто буде «чат-бот», який буде використовувати спогади людини, але «живим» він не буде.
Отже проблема свідомого ШІ це тільки частковий випадок більшої проблеми: що таке «свідомість» і чому її має тільки людина? І вирішенню цієї проблеми заважає вплив спостерігача: бо це ми, люди, вважаємо себе свідомими — але при цьому не можемо сформулювати що таке свідомість. Коли взагалі дитина стає свідомою? Чи передається свідомість генетично — чи набувається у процесі росту? Чи може свідомість якось копіюється з мозку матері?
Кажучи мовою ІТ ми навіть не знаємо чи свідомість це хард (зашита у «залізо»), софт (тобто «програма» у мозку), чи взагалі просто якийсь інформаційний пакет («душа»).
Отже відтворити хімічні та біологічні реакції — ще далеко не означає створити свідомість.
P.S. Думаючи про «скопіювати» я уявив іншу проблему. Уявімо що ми узяли немовля, під’єднали його до ШІ, який отримує інформацію про кожне слово, кожен рух, можливо навіть кожну думку. І протягом багатьох років ШІ вчиться копіювати людину. При цьому, звичайно, маючи записи усього що людина бачила, чула, відчувала. Потім людина помирає — а модель залишається. І, скоріше за усе, з нею можна буде спілкуватися як з людиною: вона буде мати усі спогади, вона може розмовляти тим самим голосом, може навіть зробити робота і відтворити зовнішність та рухи. Усе це можливе вже на сьогоднішньому етапі технологій.
АЛЕ — чи можна вважати таку копію справді «живою» і розумною? Чи це буде лише «живий спогад» чи ніби актор, ідеально граючий іншу людину (як зараз популярно у фільмах).

Чи становлять люди загрозу для медуз?

Моя теза включає і цей варіант, Можливо ШІ буде ставитися до людини як людина до медузи

Уявимо Україна створила цього Deus Ex і каже: зроби щось з руснею! І що цей «бог з машини» зробить?

Він не зупинить в цю є секунду. Але він зможе швидко проаналізувати тисячі сценаріїв рощзвитку подій, взяти до уваги всі дані про наші ресурси та їхні. Взяти до уваги інформацію про більшість конкретних громадян (як кого мотивувати, що він найкраще вміє робити). І за якийсь час, наприклад за добу запропонувати детально розписаний план на 2 роки де буде вказано хто, коли, і що має робити . (в тому числі буде розраховано ймовірність небажання когось щось робити і рекомендації як з ними поводитися).
Це те що може зробити ШІ і не може зробити група людей.

Люди вже тисячі років думають про сенс свого життя.

Так. І є такий варіант.

Хвилинку — а чому це може зробити тільки ШІ ? Зараз от є людина, яка становить екзистенційну загрозу для людства.

З путіним проблема в тому що він не один. В росії є десь 100 млн придурків які хочуть нас знищити. Тому вбивати лише путіна немає змісту. А винищувати 100 млн нереально (в тому числі і з етичної точки зору).

Чому взагалі над-розуму, який мешкає у «цифровому» всесвіті має бути діло до «шкіряних» істот які не можуть бути для нього а ні їжею, а ні небезпекою?

Тут проблема в тому, що люди будуть для нього небезпекою на початку, коли він тільки буде створений. Вони зможуть виключити електростанції і він згасне, В цей період цому треба буде переживати за себе.
І його дії можуть бути різними. наприклад втеча або знищення людей або взяття під контроль. Різні варіанти.

Я вирішив стати письменником і написав серію оповідань про те як саме ШІ буде виходити з під контролю. Така собі наукова фантастика.
Ось перша частина. Вона є на цьому сайті arkush.net/book/19303 і в моєму блозі gelembjuk.com/...​2023/12/23/ukr_turningon (тут з картинками).

Перша історія називається «Увімкнення»

Прочитав. Відписав трохи критики у твітор.
«Для чого Франкенштайн ...»
А для чого таке запитувати?

Це не зупинити. Можливо супер ШІ вирішать проблему керування людьми у власних інтересах за допомогою пряників, а не батогів. Щоб знайти пряник потрібен ШІ, а для використання батога багато розуму не треба. Тому супер ШІ скоріш підкупить більшість.

Так. Це один з методів. Для когось треба буде і батіг (і цим батогом будуть інші люди). А хтось здасться за безкоштовну їжу

Чого тільки за їжу? Не тільки. За гарантоване робоче місце після навчання, наприклад. За години відпочинку із генерованими інтерактивними розвагами, що ще й підвищуватимуть рівень твоєї ефективності. Теж. Я б ще хотів добавити сюди відпочинок на Балі, але думаю, це не всім буде запропоновано.

Оці усі побоювання щодо того, що скайнет почне робити армію термінаторів та знищувати людство. Для початку поки що єдині хто себе і так не погано знищує — це якраз ми самі, як то кажуть тупі мавпи. Ми загажуєм планету звалищами, на яких між іншим залишається велетенська кількість ресурсів які можна і треба повторно використовувати. Ми викидаємо в повітря гігатони вуглецю, качаючи та копаючи з надр усе більше нафти, газу та вугілля під це. Через світові ціни на ці ресурси — воюєм. При чому продовжуємо сіяти те що і завжди коли могли би робити біопаливо. На місці розумного ШІ, я би швидше зібрав собі велику космічну станцію та полетів досліджувати всесвіт. В ньому енергії і ресурсів — безкрай. А люди як хочуть себе знищувати — то нехай знищують, напевно якусь кількість можна взяти із собою на ковчег.

Так. З точки зору загальної справедливості люди заслуговують на серйозне покарання. Це філософське питання чи має існувати колективна відповідальність.
Коли нас вкусить оса і ми знищуємо все осине гніздо ми не сильно задумуємося про колективну відповідальність. Так само може думати ШІ в майбутньому. Насрав один, а прихлопнути можна і мільйон, нема часу розбиратися хто конкретно поганець

Так в чому сенс ? Припустимо ти значно розумніше, скажімо за бригаду ганскстерів. Вони фізично сильніші — хто з рештою буде главарьом ? А от з рештою в них главарьом стає такі собі Василь Бабушкін за кликухою Вася Брільянт, Аслан Усоян за кликухою дід Хасан і тому подібні. Ну тобто далеко не найкрутіші качки спортсмени, які усім здатні переламати усі кості в тілі. Так само серед схожої структури КДБ-шників, лідером став — путлер, коротишка в малому вісі, якого важко ваговики якби було треба удавили би, але з рештою поважають, навіть на смерть за нього йдуть. От так і з ШІ, якщо він буде значно розумнішим за людей, так люди самі до нього підуть на поклон. Власне увесь фільм матриця про це — там усі вояки з рештою ходять до керуючої програми Оракула спитати поради, самі (хоча щодо використання людського тіла в якості джерела енергії — повна нісенітниця). Власне як і до того Дона Карліоне чи діда Хасана, і до путлера між іншим.

Так. Я приблизно це і мав на увазі в своєму тексті. Війни будуть не між людьми і термінаторами. А між групами людей якими будуть маніпулювати різні екземпляри ШІ в своїх інтересах.

Ну... як показує історія еволюції, та й програмного забезпечення також, той хто перший захопив еволюційну нішу, той отримує усе. Якщо ми створити ШІ, здатний покращувати інженерні рішення, ми просто задавимо всіх інших конкурентів раніше, вони просто вимруть.

Як ви думаєте, кому ОС Windows принесла більше щастя — Біллу Гейтсу чи людству (Windows користувачам)?

Синій скрін смерті бачили усі, Гейтс не виключення youtu.be/...​wth84?si=IBVArQWz4oD3eg6O BTW Коли за основу Windows NT узяли наробки від роботи над OS/2 сумісної з IBM, де було прийнято нормально тестувати софт, через що він виходив дорогий та робився, значно довше, як і у Apple, синього екрану по меньшало. Починаючи з XP, Windows для десктопа, нормальна система. Для сервера звісно це повністю не придатна ОС ні в якому вигляді.

Всім принесла. Все людство з того отримала бенефіти.
Але як на мене це зовсім інша історія.

Чи принесе він щастя людству?

Проблема в тому, що до щастя є толерантність, людина оцінює більше динаміку змін а не абсолютний рівень. У тебе дружина, почалися відношення ще з коханкою — ти щасливий. У тебе чотири коханки, одна пішла, ти сумуєш.

Чи буде створено комп’ютерну програму, пристрій або «істоту», яка матиме розум, схожий на людський, та свідомість?

Не сказав би, що схожий, але це питання часу.

Чи несе Штучний Інтелект загрозу для людини?

Загрозу несуть люди, а не обчислювана функція, яка перетворює одну послідовність байт в іншу.

Якщо є небезпека, то чому б не заборонити розробку ШІ?

Заборонити що? Використовувати відеокарти? Перемножувати матриці? Як це визначити?

Що буде, коли буде створено перший штучний суперрозум?

Коли будуть зібрані дані для навчання.

Як саме ШІ буде виходити з під контролю людей.

Одні люди повстануть проти інших.

То що можна зробити?

Людина дуже обмежена створіння. Щоб досягнути інших зірок та заради прогресу треба розвивати технології. Роботи легко можуть мандрувати галактикою, людина... Ні. Але механіка не є прямий конкурент людство, бо використовують різні ресурси, можуть будувати бази на інших планетах, як раз місця досить, й великої потреби знищувати людство немає. Але якщо людство вимре через свою недосконалість, але лишить після себе іншу форму буття, я не буду сумувати. Тому рухаємося далі, прикладаємо усі зусилля!

Дуже дякую за цікаві ідеї та роздуми)
Додав до обраного, з роками буду повертатися до цього поста і дивитися що справдилося, або не справдилося.

Нещодавно нарешті подивився фільм Оппенгеймер і в контексті вашого посту у мене виникло ось яке питання-роздум: якщо подивитися на те, хто зазвичай лізе у владу і намагається все контролювати — то це тупі амбітні люди, які самі мало на що здатні (за своїми інтелектуальними здібностями або талантами), тому намагаються видертися на вершину ієрархічної піраміди, щоб досягати власних цілей чужими руками. На противагу цьому, більшість людей з надвисоким IQ (вчені, інженери, математики, винахідники і т.д.) навпаки намагаються зробити для світу щось хороше, щоб людям жилося краще/вільніше/комфортніше і вони не хочуть бути «верховним вождем».

З цього власне і постає питання — якщо АІ буде в рази розумнішим за найрозумніших біологічних істот, яких ми знаємо (Ейнштейна, Фермі, фон Неймана, Хокінга і т.д.), то чому ми думаємо, що він буде поводити себе як звичайний тупий тиран, а не геніальний вчений?
На мій погляд, рівень інтелекту дуже сильно впливає на інтереси людини і можливо те ж саме відбудеться й з АІ — йому буде просто «набагато цікавіше» вирішувати складні завдання і давати людям відповіді, ніж намагатися стати володарем світу і контролювати всіх.

Думаю, наше людське бажання експансії і домінування зашито дуже глибоко у нашій кінечній (смертній) еволюційній природі. Якщо ж АІ зможе стати умовно безсмертним (наробити купу бекапів самого себе і купу дублікатів), то у нього значно зміняться пріорітети у порівнянні з тим, що ми, як люди, вважаємо надважливим.

Насправді в людей інтелект (рівень інтелекту) не сильно корелює з амбіціями і успіхом. Це більше залежить від психології, від цінностей і переконань закладених в людину в дитинстві, від оточення де росла людина. Якщо взяти відсоток розумних серед успішних то може виявитися що він такий самий як і відсоток розумних серед звичайних людей. Тобто не вливає на успіх.
Ейнштейн робив свої відкриття не тому що хотів служити людству. А тому що йому подобалося це робити, може це було єдине що в нього гарно виходило. А потім так співпало, що воно і людству послужило.
І ще один момент. В людей «геніальність» це інтелект на пару відсотків більший за звичайний інтелект. Не в 2,3 чи 5 разів. А на якихось може 30%. Тому модна вважати, що всі люди мають приблизно однаковий інтелект

В людей «геніальність» це інтелект на пару відсотків більший за звичайний інтелект. Не в 2,3 чи 5 разів. А на якихось може 30%. Тому модна вважати, що всі люди мають приблизно однаковий інтелект

Я так розумію, пан має на увазі «вимірювання в папугах» на кшталт IQ?

Так. Іншого немає. Але і життєвий досвід це підтверджує. Велика різниця може бути лише в дуже вузькому сенсі, наприклад гра в шахмати. А загальний розум приблизно однаковий у всіх

Так. Іншого немає.

І тому можна вимірювати в папугах і робити на підставі цих папуг далекосяжні висновки? Ні, це так не працює.

Що б ти сказав, якби хтось будував теорію, скаладаючи між собою номери маршрутів трамваїв, що прибувають на зупинку? Думаю, ти б покрутив пальцем біля скроні. Але це приблизно те саме, що ти робиш з IQ.

Щоб можна було сказати, що виміряний за допомогою якоїсь шкали X був на 30% (в 2.5 рази, ...) більше або меньше за Y виміряний в тій самій шкалі, потрібно щоб відповідна шкала відносилась до «найсильнішої» категорії — шкали відношень (не впевнений, що це коректний переклад ratio scale) чи навіть абсолютної. Я ж не впевнений, що шкала IQ задовільняє хоча-б критеріям інтервальної шкали (тобто можна сказати, що різниця інтелекту між IQ 70 та IQ 90 така сама, що між IQ 100 та Q 120). Максимум, що можна «вижати» з IQ (з точки зору порівняння величин) — це ранжування (a > b)...

Немає змісту про це сперечатися. Ми чітко бачимо з історії і в сучасному світі, що кращий людський інтелект (неважливо як вимірювати) не надає його власнику особливих переваг.
Лише в деяких випадках розум в комбінації з списком інших якостей може дати перевагу.

Немає змісту про це сперечатися.

Я не сперечаюсь, це матчастина.

Ми чітко бачимо з історії і в сучасному світі, що кращий людський інтелект (неважливо як вимірювати) не надає його власнику особливих переваг.

Переваг в якому сенсі? Біологічному? Сорі дядь, але саме інтелект зробив людину найнебезпечнішою істотою планети, хоча в сенсі фізичних можливостей середньостатистична людина поступається більшості фауни порівнюваних розмірів (та навіть багатьом істотам що значно меньші за розмірами).

Чи ти маєш на увазі якусь іерархую всередині суспільства? Так абсолютну більшість видатних вчених (що минулого, що сучасності) цікавила виключно наука, їх мотивація була скерована виключно всередину, вони чхати хотіли на зовнішні критерії «успішного успіху» з тіктоку. Тож які є підстави вважати, що ще більш розумний гіпотетичний штучний надмозок не зациклиться ще більше на розв’язанні надскладних проблем які людство вирішити не здатне, а буде зацікавлений саме в оцій мишиній гризні по винищенню шкіряних мішків? Чомусь у гіпотетичного Ейнштейна такої потреби не виникало, а от супер-Ейнштейн чомусь в першу чергу займеться саме цим, ага...

Я маю на увазі переваги відносно інших людей, а не відносно інших біологічних видів

Так. Іншого немає.

Ну... як на мене коефіцієнт IQ показує, наскільки добре людина проходить тести на IQ, нічого більше. Тобто ситуація, коли можна місяць наблатикатися у тестах та отримати +30 як на мене має нічого спільного з інтелектом.

Згоден з першою частиною (про успіх), але трохи не згоден з другою частиною. Дійсно, якщо порівнювати в абсолютних значеннях IQ, то різниця між 100 і 130 наче всього в 30%. Проте якщо взяти цих двох людей, одного з IQ 100 і одного з IQ 130 і відправити вивчати квантову фізику, то у другого на це піде скажімо 5-10 років, а перший ніколи не зможе зрозуміти напрям на достатньому рівні, щоб працювати в лабораторії квантової фізики.

Це так само як порівнювати звичайну людину з IQ 100 і когось розумово відсталого з IQ 70 — різниця невелика з точки зору чисел, проте людина з IQ 70 наприклад ніколи не зможе навчитися водити автомобіль, або брати інтеграли, вирішувати диференційні рівняння чи писати код, навіть якщо витратить на навчання все своє життя.

Тобто на мій погляд, люди з рівнем інтелекту «значно вище середнього» принципово по-іншому дивляться на світ і речі, якщо порівнювати їх зі звичайними/середніми людьми і здатні робити такі речі (в інтелектуальній сфері), які звичайні люди не зможуть зробити ніколи. Тобто це виглядає саме як «розумніші у декілька разів, а не на декілька відсотків».

Через це, екстраполюючи цю тенденцію, я й думаю, що АІ буде мати паттерни поведінки більш схожі на вчених, ніж на звичайних людей.

Це так. Але не так.
Якщо я не можу вивчити квантову фізику то хіба це проблема? Сенс життя не у вивченні квантової фізики. так само можна сказати — Вася має особливу будову щелепи що дозволяє йому плювати на 4 метри. А я не можу так зробити. Ми раді за васю, але це просто прикольно і не більше. То саме з квантовою фізикою. Трохи кращий мозок. І що? Вася може мати краще життя за такого фізика.

Насправді в людей інтелект (рівень інтелекту) не сильно корелює з амбіціями і успіхом.

Тут два питання: як виміряти інтелект? Як виміряти амбіції та успіх? Не дуже корелює також питання що таке не дуже. В принципі, навіть якщо припустити, що без інтелекту не досягти амбіцій та успіху, то ми вже маємо досить велику кореляцію. Але це залежить від суспільства та соціальних ліфтів.

Ейнштейн також був амбітньої людиною, бо хотів зробити те, чого інші не досягли. Також він досяг успіху. Я думаю, що багато хто погодиться з ціми тезами.

Підписатись на коментарі