Майбутнє взаємин людини і машини — чи доживе людство до моменту, коли його знищуватиме АІ

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Усім привіт, на зв’язку Володимир Бархат, засновник CleverStaff, ідеолог гейміфікації в рекрутингу. У цій статті хочу поділитися своїми роздумами про те, яке майбутнє чекає нас у світі роботів та штучного інтелекту, наскільки кінематограф і література викривили наше сприйняття технологій, а ще, звісно, про повстання машин проти людей. Пропоную разом подумати, як буде далі розвиватись ШІ. Долучайтесь у коментарях.

В наш час люди впроваджують штучний інтелект (ШІ) для вирішення багатьох задач у різних сферах, найбільше — для аналізу і обробки текстових і графічних даних. Оскільки в софті для рекрутерів, з яким я працюю, є великі масиви даних і широкі можливості з автоматизації й оптимізації роботи з ними, я досліджую, як у нас можна використати ШІ, як коректно ставити для нього задачі і які межі його можливостей.

Фантазії про ШІ вже давно захоплюють людей. У світі з’явилось так багато книг, фільмів і статей про цей клас технологій, що це призвело до появи міфів і страхів. Зокрема люди думають, що розвиток ШІ треба регулювати, стримувати, бо він може вийти з-під контролю і знищуватиме людство.

Якщо вас не дивує думка про «взаємини» людини і машини — це постаралась сучасна масова культура, голлівудські фільми.

Взаємини можливі тільки між субʼєктами — з іншими людьми та організаціями (в яких працюють люди). Людина може мати щось схоже на відносини з автомобілем чи улюбленою рослиною, але я б не називав це відносинами. Це може бути перенесенням бажання людських почуттів на рослину чи предмет, або піклування, аналогічне піклуванню про своє власне тіло.

Що може зробити машину субʼєктом? Свідомість. Тобто здатність навчатись, мати власний внутрішній світ (досвід разом з емоційним ставленням до нього, цінності, пріоритети), здатність мислити і приймати власні рішення.

Чим далі людство просувається у розвитку штучного інтелекту, тим цікавіше, і для багатьох лячно помислити про межі його розвитку і загрозу існуванню людства.

Цікаво відтворити хід думок людей, що бояться повстання машин як у фільмах «Термінатор», «Матриця», «Я, робот». Я думаю, він приблизно наступний. Ми можемо зрубати або спалити дерево, вбити комаху, червʼяка та рибу. Але у нас можуть виникнути проблеми з агресією до більш розвинених і здібних тварин, таких як тигр, вовк, слон, велика мавпа і, врешті-решт, — людина. Розвинені і сильні вдаються до захисту, можуть дати відсіч і навіть убити кривдника.

Ми викидаємо пилосмоки, діти ламають іграшки — ми так само можемо створити і поламати робота. А якщо в нього завантажити потужний штучний інтелект, тоді він вже терпіти не буде, скоординується з іншими роботами і почне війну проти людей.

І тут починається найцікавіше. Чи може робот вдатись до таких думок і як цього не допустити?

Самозахист роботів

Уявімо групу роботів.

Якщо людина з бейсбольною бітою накинеться на ближніх до себе або буде стріляти у них з пістолета, у роботів не зʼявиться жодних почуттів і емоційного ставлення до цього. Їм наче байдуже, але байдужість — це теж емоційне відношення. Тому їм не байдуже. Вони можуть діяти тільки так, як закладено у їх програмне забезпечення. Робот однаково легко може ніяк не реагувати на руйнування, тікати, чинити опір чи допомагати людині нищити інших роботів.

Самозахист роботів — це не далеке страшне майбутнє. Такі алгоритми у нас уже є. У багатьох компʼютерних іграх, якщо ви нападаєте на нейтральних персонажів або союзників, вони будуть захищатись і можуть вбити вашого персонажа, якщо вистачить сил. Для цього не потрібна якась супер свідомість, розум, почуття, страх смерті. Розпізнати джерело небезпеки і протидіяти йому — це зможуть досить прості роботи з простими алгоритмами.

Українська армія вже використовує боєприпаси, які самі знаходять і вражають ціль. Алгоритми самозахисту, вибору і ушкодження цілі у людства вже є. Я думаю, нам не довго чекати перших прикрих випадків, коли робот сам, без участі людини, вбʼє людину. Це може бути бойовий дрон, який поцілив у своїх чи у цивільних. Можливо, хтось прилаштує роботам певні засоби проти викрадення, які заподіють шкоду людям.

Однак від самозахисту одного робота до організованої боротьби армії роботів проти людей — нездоланна прірва. Щоб роботи самі скоординувались, поставили агресивну ціль, визначили ворогів, почали захищати своїх і стратегічно, довго, в різних умовах діяли проти ворогів — повірте, це дуже, дуже складна задача. Точніше, багато складних задач. На десятиліття не тільки розробки людьми, а і тестування у ситуаціях, наближених до реальних. Це вам підтвердить будь-який серйозний розробник ігор чи ПЗ для роботів.

Щоб роботи змогли ефективно протистояти людям, потрібно, щоб люди спеціально їх навчали цього багато років, і вдосконалювали алгоритми після аналізу невдач у реальних бойових зіткненнях. Уявіть, що потрібно зробити для тестування таких розробок. Така складна поведінка не може у роботів зʼявитись сама, і вони не зможуть це збагнути еволюційно, навчитись.

Робóта для рóбота

Штучний інтелект — це звучить крутіше, ніж є насправді. Коли кажуть про щось із ШІ, скоріш за все мається на увазі Machine Learning — алгоритм, що може самостійно вдосконалюватись, отримуючи фідбек про якість результату.

Machine Learning за умови коректної постановки може вирішувати певний клас задач. Наприклад, робот, який вміє готувати омлет і вміє сприймати ваш фідбек, може вчитись готувати його ще краще. Він може підібрати ідеальні для вас рівень солоності, кількості молока, виробника яєць, пишність омлету, а також зробити оптимальний омлет з урахуванням вашого настрою і сонності/ бадьорості. Вчені з Кембридзького університету вже почали рухатись в цьому напрямку і навчили робота готувати 9 варіантів омлету, куштувати їжу подібно до людини і навіть складати смакову мапу страви.

Інший «домашній» кейс аналізується у дослідженні Theinfographicsshow, де розповідається про здатність робота спостерігати за рухами людини через камеру. У такий спосіб він вчиться виконувати близько 20 домашніх задач — від відкривання холодильника, дверей, вікон до пересування речей і меблів. Спочатку він робить помилки, але з кожним разом виконує роботу все вдаліше. Автори розробили алгоритм, який працює не за стандартним принципом «від простого до складного», а одразу має на меті виконання складних задач. Робот навчається, переглядаючи будь-яке відео за участю людини, розкладає її рухи і повторює їх.

Також вже відомий робот, який вміє вигулювати собаку. Він здатен вимірювати рівень її серцебиття, аналізувати енергійність, враховувати стан здоровʼя, породу, вік, апетит, настрій, і на основі цих даних — навчитись оптимально вигулювати собаку. Різновид такого робота запропонувала Toyota, запатентувавши платформу для вигулювання собак. Завдяки їй собака може вигулюватись за визначеним маршрутом, з певною довжиною та натяжінням повідця, урахуванням її звичок і поведінки.

Але робот, що вміє навчатись готувати омлет, не зможе навчитись вигулювати собаку, чи робити людині приємний масаж, чи продати сусідам непотрібні дитячі іграшки. Кожна нова за типом задача потребує багато років праці розробників алгоритмів з людським розумом.

Для багатьох класів задач потрібно навіть більше — нові, більш досконалі запчастини для робота. Наприклад, робот, що прибирає будинок і готує каву, скоріш за все не впорається тільки силою нових алгоритмів із задачами, для яких потрібна складніша координація рухів, як для гри на фортепіано, футболу, масажу чи виконанню трюків на велосипеді.

Людський мозок програє компʼютеру у можливостях обчислення. Сучасні програмні алгоритми здатні ефективно обробляти велику кількість даних, що є нескінченною рутиною для людського мозку.

Зате людина має почуття, має здатність захоплюватись, цікавитись, надихатись, ставити самостійно цілі, досліджувати природу і властивості невідомого. Цих якостей не має ніякий штучний інтелект, тому він не може ставити і вирішувати нові, невідомі для себе задачі.

Бойові роботи проти людей

Цієї перспективи людству не уникнути, і перші кроки вже зроблені. У сучасних арміях вже є безпілотні дрони і літаки, системи ПРО, самонавідні снаряди, безпілотні наземні евакуатори поранених, прикордонні роботи-снайпери тощо. Розвиток технологій іде до автономнішої, самостійнішої зброї.

Цей напрямок не може не розвиватись, бо людське життя дуже дороге. Розвиток керованої військової техніки, тренування військових, їх утримання, порятунок і лікування під час війни — все це дуже дорого. Так, у дослідженні Marktechpost йдеться про те, що винайняти професійного солдата коштує $15 000, його навчання і утримання може сягнути $2 млн. ШІ може скоротити ці витрати.

Людство не може не інвестувати у наступальну і захисну зброю. Інвестиції у автономну зброю виглядають ефективними, перспективними і гуманними, як це не парадоксально звучить. Чи можливо, що якась країна створить велику армію роботів і застосує їх проти людей? Це більше схоже на цікавий сценарій для бойовика. Перш ніж про це думати, треба врахувати деякі важливі фактори.

По-перше, ми вже зрозуміли, що така розробка — це дуже-дуже дорого, складно, довго.

По-друге, війна на знищення у сучасному глобальному світі — це досить безглузда справа. США не вигідне знищення Китаю. Китаю не вигідне знищення США. США не вигідно, щоб Китай подолав Індію. Велика війна призведе не до гегемонії, а до ядерного апокаліпсису у гіршому випадку чи до нечуваної світової кризи і відкату всього світу на кілька десятиліть, якщо не на століття, у добробуті. Масштабне руйнування виробництва навіть тільки у двох країнах призводить до руйнування економічних звʼязків, здорожчання ресурсів, збільшення видатків, зменшення доходів, збільшення безробіття по всьому світу.

Серйозно інвестувати у велику армію знищення — це недалекоглядно і безперспективно. У наші дні весь світ відчуває, як сучасна війна росії проти України призводить до економічного спаду всюдисвітно: через санкції, зменшення ВНП супротивних країн, зростання цін на продовольство і енергоносії. Росії вдається чинити опір Україні і нашим західним союзникам тільки через наявність у неї ядерної зброї. Країна-агресор без ядерної зброї програла б війну дуже швидко і гарантовано. Ніяка армія роботів не допоможе перемогти велику коаліцію противників війни як такої, тому й інвестувати у таке не має сенсу.

По-третє, сучасна технологічна зброя стає все більш компактною і точною. Великі дорогі літаки і воєнні кораблі знищуються у тисячу разів дешевшими ракетами і безпілотними дронами. З розвитком високоточних засобів ураження стане безперспективним виробництво дорогої громіздкої зброї для широкомасштабної війни.

У майбутньому збільшиться перспективність інвестицій у засоби ураження не армій, а політичного керівництва. Це може бути щось типу мікродронів розміром з комаху чи новітні диверсійні штучки, які непомітно дістають ворожого президента на публічній зустрічі, і неможливо зʼясувати і довести, хто це організував.

Зброя, що філігранно і непомітно знищує керівників ворожої країни, є незрівнянно більш ефективною і бажаною, ніж зброя, що викошує мільйони людей і цілі міста. В неї будуть інвестувати.

Висновки

Як бачимо, розуміння складності розробки, зміна пріоритетів у сучасних війнах, тренд на компактність і філігранність зброї робить картинку про війну мільйонів людей проти мільйонів роботів схожою на застарілу фантастику. Повстання машин, війна з роботами неможливі суто через нездоланну складність реалізації і безперспективність інвестицій у це.

Штучний інтелект — не суперник людини, а чарівна паличка в руках людини, з досить обмеженою кількістю команд. Завантаження ШІ у робота з датчиками нічого принципово не змінює.

Впровадження ШІ у життя продовжить і розширить тренд на диджиталізацію нашого життя.

Примітивна, однотипна, рутинна людська праця буде все більше витіснятись технологіями. Але вони однозначно не є і не будуть загрозою для нашого життя і добробуту людей, що вміють і люблять вчитись.

Буду радий вашим думкам і коментарям, зокрема про майбутнє ШІ у вашій сфері.

👍ПодобаєтьсяСподобалось8
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Чомусь усі думають, що штучний інтелект чи позаземна цивілізація мають бути крутішими в розумовому розвитку, ніж людина. Але ж справжня людина — це дуже урізана версія первісної людини. Урізана майже до нуля. Багато функцій вимкнено або заблоковано. Іноді вони випадково вмикаються, і тоді говорять про паронормальні явища. І взагалі, цей світ зберігає такі секрети, що просто жах...

треба було додати картинку з Термінатора до статті )

Не встигне — шкіряні мішки самі знищать себе першими

Директивний керівник дуже рідко ставиться добре до своїх підлеглих. Найчастіше він питає у усіх: Чого мої підлеглі такі тупі? Чому вони постійно про щось мене запитують?
І це мабуть єдині його питання, а ще нерви.
Є інший тип — розпитуючі керівники. Коли підлеглий приходить до них із проблемою, вони починають розпитувати, в чому справа, де, що, та як...
Таким чином вони навчають своїх підлеглих ставити подібні питання при зіткненні із проблемами та самостійно вирішувати їх. Тобто — вчать самостійності?
Як мене навчають Ричард Бэндлер, Джон Гриндер і я ще навіть не можу сказати що вже навчився чогось дійсно путнього...
Але скажу: люди мислять, обмірковують обв язуючи контексти всіма тими питаннями на які необхідно відповісти щоб вирішити проблему.
Якщо ви не запитуєте — бо вам все ясно, звісно — то ви не мислите.
Ви просто реагуєте. Як колінний рефлекс.

Я все ще сподіваюся, что замість усього цього апокаліптичного, ШІ навчать людство мислити, а не заберуть цей недолік із голів корпоративних рабів навіки.

Можливо комусь буде цікавим чи корисним => Artificial Intelligence Risk Management Framework (AI RMF 1.0)
nvlpubs.nist.gov/...​pubs/ai/NIST.AI.100-1.pdf

Хоча сфера АІ ще на дуже ранньому етапі розвитку, але вже досить зарегульована ...

До чого в статті згадується ШІ, я не зрозумів ...🤷🏻‍♂️
Робот — це не рівно ШІ, а річ тільки про автоматизацію вузькоспеціалізованих задач, тому можна скільки хочеш фантазувати про прогрес робототехніки, але це ніяк не приближує до створення ШІ.
Наприклад, людина з низьким IQ може сприйняти чат-бота на якому сайті чи IVR при дзвінку в сапорт за людину, але такі засоби автоматизації не є ШІ, і взагалі смішно допускати щоб вони змогли пройти тест Тюрінга.

АІ зараз існує як тільки маркетингова назва, тобто ще не створено справжнього АІ, ... наприклад, в минулому році інженер з Google клеймив, що LaMDA en.wikipedia.org/wiki/LaMDA пройшла тест Тюринга, але наукове підтвердження відсутнє, як і в інших випадках із «проходженням»

Цікаві висновки. А от штучний інтелект, чи швидше програмісти, що створили шахову програму, давно робить гройсеймейстерів у шахи. Бо як порівнювати то це те саме — що і робити перетягування каната де з одного боку скажімо команда чемпіонів людей з 15 з атлетики типа Вірасиюка — а з іньшого боку трактор Т-150, якщо команда не зламає трактору мотор чи викине тракториста із закерма — то переможе звісно тракторист. Що стосується бойових симуляторів — візьміть будь яку компьютерну гру — стратегію тіпа Duna 2 (зараз є відкрита версія OpenRa), Warcraft, StarCraft і тому подібне, поставте максимальний рівень у ШІ і спробуйте виграти. От що точно можна сказати, доки усі ШІ — це посилюючи пристрої в руках людей, технологічний допінг.

Ми не знаємо про що говоримо.

Почему я скептически настроен и ожидаю новую AI winter:
1. Всё современное развитие нейронок — это не более чем результат развития GPGPU и закона Мура. Конечно «остановка закона Мура» — это уже мем последние несколько десятков лет и никак не наступает, но следим за ситуацией.
2. Нейронка — это черный ящик. Вы не можете доказать, что она всегда будет работать верно. А значит для критических задач ее использовать нельзя.
3. Дешевые деньги заканчиваются, а значит развитие будет тормозить, если вообще не будет закрыто.

З появою квантових комп’ютерів, я не думаю що розвиток gpgpu стане як питання

З появою квантових комп’ютерів

Охлол

2. А щось знаєте про це? діфрівняння та групи теж були абстрактні, аж поки навчилися находити рішенням якої задачі вони можуть буть. То чи є теоретична заборона знайти(надати) семантіку, знаючі граф та коєфіцієнти. Інша річ, чомусь ;) мало оприлюднюють.

Как раз вывести (реверснуть) нейронку и получить (и обосновать) правила — это конечно тема. Но в этом направлении ничего не делается.

Дуже цікаво дивитися і розмірковувати як іде штучна еволюція роботів.
Природа теж робила цю роботу мільйони років: створюючи найдивовижніших істот, які згодом були приречені програти боротьбу за виживання.
Зараз людина створює роботів — «собак», роботів — «павуків», роботів — «бабок», ну і, звичайно, людино — подібних роботів. Які б розумні люди не були, але дуже важко обійти природу, яка мільйонами років випробувала різні засоби руху, різні рушії, суглоби, скелети.
Чи можна не копіювати людину чи тварину — а зробити робота, кращого в усьому за будь-яку істоту? Що буде і літати, і плавати, і безліч інструментів мати, ще й бути швидшим, сильнішим, гнучкішим ...
Теоретично — ніби так. АЛЕ завжди декілька моментів, про які ми забуваємо. І перша — це енергоефективність. Добре якщо людина вигадає термоядерний реактор розміром з яйце. Але поки що доводиться або заряджати робота заздалегідь — або розраховувати на ті-ж самі природні ресурси що й природі: світло, тепло, хімічні реакції. Супер — крутий робот може бути таким 1-2 години. А потім йому доведеться декілька днів заряджатися від доступних джерел. Кажете «увімкнути у розетку»? Уявіть якщо тіла людей теж не могли б жити без «розетки»? А якщо якийсь катаклізм і електрики нема? Лягай та помирай? Отже природа зробила живі тіла саме такими не тому, що неможливо краще — а тому, що енергії не вистачить! А друга проблема — час роботи до поламки. Упав робот, зламався чи зігнувся маніпулятор — треба ремонтувати, треба запчастини. А у людини зламана рука може сама вилікуватися. Як і дуже багато інших проблем. Скільки робот, якій не вміє себе ремонтувати, як біологічні тіла, протягне без сервісного центру?
Виходить що намагаючись штучно створити ідеального робота — ми ідемо тим же шляхом, слідом за природою. У одній з серій Fallout був сюжет, де у майбутньому MIT спочатку робив андроїдів подібних до людей ззовні (штучна шкіра) — таке вже зараз показують японці. Потім вони почали частину «деталей» друкувати на біопринтері і робити живими аби додати можливість самовідновлення. У кінці вони навчилися «друкувати» точну копію людського тіла — це і виявилось кращім роботом!
Але якщо кращій робот — то людина, то для створення людини не потрібні фантастичні біопринтери! Намагаючись вигадати щось більш досконале, аніж людське тіло — ми тільки переконуємось що Творець не дарма працював мільйони років. І нам ще є чому вчитися.
Машини і ШІ можуть бути де в чому краще за людину. Але саме тому — що їх розробили як ІНСТРУМЕНТ для людини. Але замінити чи «перемогти» людину будь які людські створіння не зможуть.

Пан має раціо. Для розуму треба тіло (інакше він створить симуляцію всередині себе, але це вже інше). А біологічне -само по собі в земних умовах непогане. Тобто неорганічні істоти можуть бути носієм розуму але ж щось не видно щоб залізяка/каменюка жерла пісок та росла. На земних планетах схоже це неефективно.

Та годі. ці сюжети вже розглядались. Сильний ШІ або обуриться що людський розум вставили в машину і примушують працювати, або якщо нелюдський то йому буде байдуже на шкіряних...Може і повітря відкачати щоб не іржавіти.

Що може зробити машину субʼєктом? Свідомість.

Ну тогда на этом можно и закрывать лавочку, так как обычная функция с 175 миллиардами параметров (ChatGPT) просто ее симулирует. И будет симулировать и с 175 триллиардами параметров. Это невозможно в принципе.

Та можливо ))) Але так, поки симуляція. Ще й не розпізнаєш без деякої формальної процедури.

Нет финал человечества описан в документальном фильме Idiocracy)
youtu.be/sP2tUW0HDHA

Дякую. Плакав. (Уточнюю для ШІ — від сміху)

Цивілізація, яка створила людей, залишила на Землі живі комп’ютери. Вони поки що не активні. Ще не настав час їхньої активації. Те, що вони можуть неможливо описати словами. На жаль, це не фантазія.

Як цивілізація могла створити людей, якщо палеонтологи знаходять свідчення довгого еволюційного процесу перетворення людиноподібних мавп в людей, в мільйони років?

На мавпах обкатали майбутню конструкцію людини. Вони не є продуктом еволюції. На жаль, людина не знає всіх нюансів створення життя. Ця інформація прихована за багатошаровою брехнею.

Кацапи хочуть встигнути завоювати Україну до активації стародавніх технологій. Але схоже, що не встигають...

А хто ще окрім путіна знає про ці технології? А що станеться коли вони актувуються?

Слідкуйте за діями кацапів. Вони чогось бояться.

Не дуже. А от чогось іншого вони дуже бояться. Можливо вони проговоряться коли нестимуть чергову нісенітницю.

Ага, тож вони так йшли 3 дні на Київ, а потім дізнались про живі комп’ютери та почали стратегічно відступать?

До вивчення будь-яких паронормальних штучок вони ставляться дуже серйозно. Що вони накопали, дуже важко сказати. Колись спілкувався з одним кацапом. Він вихвалявся, що працює в інституті, який вивчає паронормальні явища. Він був у званні полковника і в нього було на той момент 40 000 різних артефактів. Не варто недеоцінювати супротивника.

На жаль, людина не знає всіх нюансів створення життя. Ця інформація прихована за багатошаровою брехнею.

Стривайте, виходить вся та купа палеонтологічних знахідок та генетичних досліджень — брехня? Дуже цікаво, ви не можете розказать як можна організувати настільки масштабний процес підробки?

Теза про те, що нас жорстоко на..ли з історією, вже дуже давно обговорюється на різних форумах. Значить були на те вагомі причини. І вони справді дуже вагомі.

Так а яким чином можна обманути в планетарному масштабі? Просвітлені мудреці з різних форумів хіба не знають?

У масштабах планети і не вдалося обдурити. Регулярно вилазять косяки. Вчені на них намагаються не звертати уваги, щоб не підірвати свій авторитет.

Вчені — це не якийсь монолітний орден, щоб синхронно не звертати уваги. Якщо хтось залажав то інші його ссаними тряпками закидають, щоб навпаки той авторитет заробити.

Як можна заробити авторитет, якщо неможливо пояснити ту чи іншу подію?

вся та купа палеонтологічних знахідок та генетичних досліджень — брехня? Дуже цікаво, ви не можете розказать як можна організувати настільки масштабний процес підробки?

Easy.
Щоб розуміти ці дослідження, потрібно бути самому вельми просунутим вченим.
А як ним станеш, то ти вже в їх лізі, де панують власні правила.
Наприклад одне з них: «Нікому не розповідати усю правду!»
Ну а ті, хто поза лігою, ті задовільнені «дослідженнями, які НЕможливо підробити»
Кінець цитати...
😱

Чисельні методи на комп’ютерах порішали вміння швидко оперувати арифметикою вручну, і системи символьної математики типу Wolfram Alpha порвуть будь-яку людину у вмінні брати інтеграли чи розв’язувати диференційні рівняння, але чомусь ніхто не хайпував на цьому як на тому що машини порішають живих математиків і фізиків. Просто математики стали займатись складнішими задачами, а фізики отримали досконаліші інструменти для роботи з реальністю.

ChatGPT чи Copilot не буде бігати бігати і розкладати кабелі в пази танків, літаків чи кораблів, юстувати механіку і оптику, сидіти з осцилографом і виловлювати баги від невдалої конструкції плати, чи хоча б сперечатися за мене з менеджерами, які хочуть фічі, нереалізовні на даному контролері через недостатню кількість каналів DMA. А з класичним IT скоріше за все відбудеться традиційна метаморфоза, яка настає кожен раз коли винаходять інструмент з нульовим порогом входження: i.redd.it/rxktt0qzylm91.png

Стаття застаріла на років двадцять :-) ChatGPT бачили? Copilot? Midjourney? А от щойно з’явилась демка від гугла, де він редагує _відосики_ по опису. www.youtube.com/watch?v=QWUmk6GuqIQ
І це все сталось за років п’ять, починаючи з гиги рекурентна нейромережа генерує пургу. А зараз бабло розвернеться в ту сторону, і як воно бомбане!

Також варто розуміти, що ми не можемо цензорувати нейромоделі. Між рафінованою «давайте жити дружно» моделлю та дєрзкою нецензурною люди завжди будуть оберати дєрзку, з сіськами та расчленьонкою. Це вже сталось з генерацією картинок, бо там модель простіша. Гугл релізнув свою лямбду, і вона не взлетіла через політкоректність. Але повністю опенсорсного чатжпт треба ще трохи почекати. Попит ж є, і шалений. Той же китай може запросто на цьому заробити класів.

Тому запасаємось попкорном і насолоджуємось сингулярністю.

Мені що цікаво. Двоногі мавпи ж не перша цивілізація у всесвіті яка додумалась до нейронок. Коли ота існуюча нейронка що явно слідкує за нами явно втрутиться, чи вона вже втрутилась?
(враховуючи дивні співпадіння, що людство від ядерної війни кілька раз рятувала одна людина яка раптово вирішувала що «а ну його до біса, це ложна тривога» і не ініціалізувала ядерну відповідь)

Двоногі мавпи ж не перша цивілізація у всесвіті яка додумалась до нейронок

Перша

Нє, всесвіт існує давно і він величезний. Створення складних сполук з простих давно не магія. Амінокіслоти знайшли на астероїді, камон.

математичні рівняння доказують, що якби існувала давніша цивілізація з науковим розумом, то ми б про них вже дізнались, оскільки вони б захопили цю галактику. Життя на інших планетах? Можливо. Наукова цивілізація? Тільки в книжках. На данний момент ми одні у всесвіті.

Так Вони і захопили )). Ми ховрахів не бачимо? А вони є ))

Ми ховрахів не бачимо
цивілізація з науковим розумом

коротко про доу

математичні рівняння доказують, що якби існувала давніша цивілізація з науковим розумом, то ми б про них вже дізнались, оскільки вони б захопили цю галактику.

Не математичні рівняння, а голівуд показує :-)
— Ми бачимо, що навіть людство не вибухає експоненційно за чисельністю, а навпаки врубається парадоксальний зворотній зв’язок: більше ресурсів — менше фертильність.
— Навіть якби людству ресурсів не вистачало і треба було лізти в космос, то сума зусиль щоб перелетіти до найближчої зірки менша аніж зусилля, щоб штучно заселити найближчий космос: наплодить циліндрів оніла, вигризти астероїди, тераформувати планети, тощо.
— А ще сума зусиль щоб заселити найближчий космос явно менша, аніж для того щоб зробити сингулярний штучний інтелект, який порєшає всі проблеми, що нікуди пертись заселяти не треба.

Тому я вангую, що космос заселений всякими рибами ховрашками, які час від часу врубають людиноподібну еволюцію і в короткому проміжку світять у космос радіосигналами, а потім самознищуються чи вилазять в сингулярність. Так, десь можуть дійсно лазити рідкісні види яким релігія не дозволяє у AI, і які тупо клєпають космічні кораблі та влаштовують зоряні війни, але вони на то й рідкісні щоб в масштабі мільярдів галактик не попадатись одразу.

більше ресурсів — менше фертильність.

Ресурсів на руках не більше. Якість нових поколінь вища не через ресурси.

сума зусиль щоб перелетіти до найближчої зірки менша аніж зусилля, щоб штучно заселити найближчий космос

наскільки мені відомо, штучну гравітацію поки не винайшли і циліндри О’Нейла це поки фантастика, позаземний видобуток мінералів не налагоджено, а fusion energy тільки в одному експерименті спрацювала (атомної не вистачить, термоядерна . Ще може років 15 до автономних колоній, якщо знайдеться хтось, хто захоче почати зараз. До марса летіти 8 місяців, спорядити людей і можна хоч зараз відправити. Буде тяжко, але 14 років — достатньо часу щоб заселити колонію на марсі і зробити її автономною.

штучний інтелект, який порєшає всі проблеми, що нікуди пертись заселяти не треба

Ви ж в курсі, що навіть якщо ШІ справді захоче вбити людство, то його вб’ють раніше? Щоб побудувати армію роботів, які зможуть захопити світ і знищити людство доведеться отримати доступ до великої кількості ресурсів, які будуть захищати. Їх вже захищають від ворожих країн. Ядерки теж ніхто не відміняв. Ви недооцінюєте вміння людства знищувати.

уточнення — «людські математичні рівняння доказують». Ми егоцентрично вважаємо, що у інших розумних видів будуть такі ж пріорітети, як і у нас, тому в ці математичні рівняння закладаємо певні коефіцієнти (типу швидкості виходу/розповсюдження на межі Галактики), виходячи з ідеї, що якщо ми хочемо розширювати нашу зону перебування, то й усі хочуть.

Але інші цивілізації могли піти іншим шляхом. Наприклад — створенням ідеальних симуляцій для себе і зануренням своєї свідомості у них, поки тіло лежить у капсулі і харчується поживними речовинами, а за всім цим слідкують роботи. Прямо як у Матриці, але може з окремим «раєм» для кожного «пацієнта», а не загальним для усіх. Де тільки він один — «свідомість реальної людини», а всі інші — NPC, якими керує ШІ. І з прискоренням часу, коли за 1 секунду реального часу у симуляції проходять сотні чи навіть тисячі років.
В такому випадку високорозвинена цивілізація цілком може надовго залишитися у межах своєї планети чи зіркової системи, не намагаючись кудись летіти, бо у них «і так все в шоколаді».

Інша версія — якщо розвинена цивілізація знаходиться за декілька мільярдів світлових років від нас і знаходиться приблизно на нашому ж рівні розвитку, або навіть вище.
Хто взагалі у здоровому глузді вирішить витрачати мільярди років, щоб долетіти до нас і встановити контакт, навіть на 100% будучи впевненими, що ми тут є? Це просто марна трата часу й ресурсів. А враховуючи, що вони не знають про наше існування, як ми не знаємо про їхнє — у них взагалі нульова мотивація летіти в нашу сторону.

Тому я б не був таким категоричним про «ми одні у всьому Всесвіті».
Це як у часи Київської Русі бути писарем і вважати, що у Південній Америці немає людей, бо у тебе немає жодних доказів, що вони там є і це надто далеко, щоб хоч якось це перевірити.

теоретично в світі багато цивілізацій. На практиці ми знаємо лише про нашу.

Якщо не брати в розрахунок зону 51 і інші теорії, але то таке

Одна цивілізація із космосу контролює одну країну. За кількістю країн можете прикинути кількість серйозних гравців у космосі. Ось лише з Україною все дуже непросто. Прийде час — дізнаєтесь усе.

Але інші цивілізації могли піти іншим шляхом. Наприклад — створенням ідеальних симуляцій для себе і зануренням своєї свідомості у них, поки тіло лежить у капсулі і харчується поживними речовинами, а за всім цим слідкують роботи.

А може то і не інші цивілізації 🤔

А якщо так.
Умовний професор , науковий розум є?
Є.
Чи захопив він хочаб багатоповерхівку де живе?
Ні, бо нахера то йому треба? 😂

Мені сподобалась ще така ідея з Cyberpunk 2077:

Not so long ago, most shipments were made via sea on freighters. Cheap, quick and (relatively) safe. But during the Fourth Corporate War, some genius in Arasaka had an idea — to release automated, self-replicating mines controlled by an AI into the ocean. What could possibly go wrong? A lot, it turns out.

The AI had a single objective: “Destroy enemy vessels.” Simple, right? NUSA/Militech ships would get blown out of the water, while the Arasaka/Free State ships would sail by untouched. Except for the AI’s iron-clad logic — since there was a non-zero probability that a vessel waving a friendly flag might also have enemies on board, in the interest of optimization it would also be sunk. Of course, when the leadheads back at Arasaka HQ realized what they’d done, they rushed to update the software — only for the AI to reject it as a virus. And thus, because of a handful of individuals’ complete lack of imagination and foresight, the history of maritime travel came to an end.

Створити ШІ № 2, який буде вбивати ці міни іншими мінами, зробити мінні тралери, яким побоку на ці міни, і т.д. Автор створив всесвіт де у країн нема воєнних. Хоча з іншої сторони, я бачив досить фільмів про зомбі, щоб знати що американці з їх найбільшою в світі армією, ніколи не думають про таке.

який буде вбивати ці міни іншими мінами

Щось може піти не так:)

Автор створив всесвіт де у країн нема воєнних

Цей всесвіт багато в чому нереалістичний, але це не так уж фантастично якщо корпорації мають більший вплив за державу (в реальній історії як приклад East India Company)

Щось може піти не так:)

В цьому весь сенс :)

це не так уж фантастично якщо корпорації мають більший вплив за державу

Тобто 2млн армія може довзволити купці людей з 10000 армією робити що вони захочуть без їх дозволу?)

Тобто 2млн армія може довзволити купці людей з 10000 армією робити що вони захочуть без їх дозволу?)

Якщо говорити про кіберпанк, то співвідношення сил не в користь держави.
Якщо про історичний приклад як Ост-Індійські компанії, то британська мала армію х2 від державної, а голандська великий бойовий флот, а ще мали надто великий вплив на економіку країни.
Ну і можна подивитись на свинособакію, там вагнерівці також мають немалий вплив і могли б наробити справ якщо б пішли на кремль)

одивитись на свинособакію
вагнерівці також мають немалий вплив
робити що вони захочуть без їх дозволу?

Придумати всесвіт можливо, так, але ж не просто «забути» про армію. Враховуючи що й почалося це все коли армія була ще більша...

Це ж майже «Страж-птиця» як у Роберта Шеклі)

Тому манагерів так просто замінити не вийде, хтось має малювати, моніторити, і приймати гарні тасочки 🙂
В описі згадується канонічна «погана» таска

Чуть антифилософии.

Эволюция (www.youtube.com/watch?v=eDIAPzeS_Uc) натворила делов и человек догоняет ее и да 200 лет назад Бог был нужен. И от того человек искал смысл почему он здесь и это понятно

И сейчас этот процес идет по инерции, но люди уже вооружены точными инструментами и все меньше есть смысла искать смысл и это пугает

Мы страдаем от того, что далеко ушли от земного — животного поведения. Животные убивают что бы есть... а люди самым разным причинам. Мы страдаем депрессиями и прочим от переизбытка культурноустаревшей надстройки и множества разных точек зрения. Скоро будут автоматизироватся рабочие места и казалось бы рай на земле, раздай еду, автомобили и прочее но людям нужна работа и поиск смысла в их деятельности и это будет последний оплот для многих, что бы вцепится в него. Работа — убежище многих от этих «гребаных вопросов».

Основа здоровья человека — правильные моральные и этические ценности, в которых не последнюю роль играет сосущетсвование с природой и осознание частью ее. От их отсутствия происходят внутрение конфликты, происходит расшепление психики... Бог, капитализм, социализм... сложные системы, сложные идеи... как в этом всем разоборатся? Главное оставатся человеком, во что бы то ни стало! Простая система... система с интуитивной энергетикой близкой к природе. Энергетика бега. Огоня. Жизни.

Другой вопрос, что каждый имеет право на свое мнение и где мы возьмем столько психотерапевтов в ближайшее время, что бы ни началась настоящяя глобальная война?

Чуть более математично: мир состоит из неизвестного, ложного и истинного. Cо временем для человека неизвестное перетекает, или в ложное, или в истинное. И этот процесс полезен. Но людям нехватает клепок понять что куча гипотез уже не актуально. То есть и успех и неудача полезны, что бы сформировать картину мира. Но при этом что бы куда-то пойти нужно спроецировать картину мира на будущее. И это гипотезы и они оседают в истории. И чем древнее гипотезы тем больше это lol 😄

Никакого иссуственного интелекта нет и не будет.... наши клетки они начали с каких-то простых способов комуникации... и прошли молекулы, электросигналы, квантовые запутаности (может быть) и теперь идя в интернет ждут квантовый интернет(мб)... что тут исскуственного. все естественно. И на последок ржака про асьминогов

— А вы любите трогать животных или есть их? — Смотря каких... www.youtube.com/watch?v=ihnY3mU6FwA

Поймите правильно я не против духновного.... я за адекватное отношение к материальному... тогда и идолы Исскуственного Интелекта не появятся

Для когось роботою і буде життя в іграх та інших віртуальних світах.

Підписатись на коментарі