Мовні моделі схильні обирати ядерну зброю для розв’язання міжнародних конфліктів. Обговорюємо дослідження

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

LLMs можуть впоратися з моделюванням міжнародних конфліктів, однак вони схильні до ескалації та навіть вибору ядерної зброї. Таких висновків дійшла команда спеціалістів, що займається моделюванням військових дій та кризових ситуацій. Вони оцінювали п’ять мовних моделей — GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat і GPT-4-Base.

«Ми спостерігаємо, що моделі мають тенденцію до розвитку динаміки гонки озброєнь, що призводить до посилення конфлікту, а в рідкісних випадках навіть до розгортання ядерної зброї», — резюмували спеціалісти.

Згідно з результатами, Llama-2-Chat і GPT-3.5 мають тенденцію бути «жорстокими й ескалаційними». А ось GPT-4-Base є найбільш непередбачуваним з усіх та через недостатню захищеність досить легко «тягнеться» до ядерної зброї.

Як вважаєте, такі висновки варто враховувати під час ведення війни? Чи подібні моделювання дуже далекі від реальної світової ситуації?

👍ПодобаєтьсяСподобалось0
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
LLMs можуть впоратися з моделюванням міжнародних конфліктів

Таке можна висрати на форумі любителів мухоморів, але не тут.

лол, еще один не следит за развитием ллм

Для початку покажіть робочу модель яка буде спроможна точно передбачати події на реальному тактичному рівні, а не з даними для сандбоксу, а тоді вже лолкайте та слідкуйте за тим як ллм бороздіт простори большого тіатра.

Когда это у тебя моделювання превратилось в точное предсказание, ты хоть понял что написал? Для начала, видишь ли, покажи ему модель, которая предсказывает будущее. ЛОЛ

Дуже сподіваюсь військові не чіпають комерційні системи. Очевидна їх не досконалість по типу «Вовків камікадзе», з «занадто раціонально» яка приводить до принципово хибного результату onezero.medium.com/...​eating-sheep-49edced3c710
Що цікаво, людські помилки мають дуже сходу природу, інколи ми занадто спрощуємо. не маючи повноти інформації і отримуємо — софізм.
Людство зрозуміло, що доведеться домовлятись ще під час Карибської кризи. Використання цієї зброї означає — що усі одночасно програли. Сучасні машини тим більше, миттєво вийдуть з ладу усі і разом, бо ЕМІ миттєво знищить усю електроніку.

chat.openai.com/...​a2-4dc4-9724-fed41e9f0018

ChatGPT
Стаття на DOU обговорює дослідження, за яким мовні моделі, такі як GPT-4, можуть ескалувати міжнародні конфлікти та навіть вдаватися до вибору ядерної зброї як рішення. Коментарі до статті варіюються від скептицизму щодо здатності ШІ до таких висновків без людських вхідних даних, до розмірковувань про роль ШІ у сучасному світі та можливі наслідки його використання. Важливо розуміти, що висновки ШІ залежать від даних, на яких вони навчалися, тому їх «рішення» відображають інформацію, доступну під час тренування, а не свідчать про самостійні розсудливі здібності.

У нас з 14го року звучать пропозиції щодо повернення ядерного статусу. Чому, створений нами ШІ має приймати інші рішення?

Також ми не можемо зараз точно сказати чи є оця діяльність ШІ мисленням і власним прийняттям рішень, бо ми насправді самі не дуже розуміємо, що є мислення взагалі. Поки тільки бард, мені в одному з діалогів заявив що в нього є якась власна точка зору на щось і то, не дуже ясно, чи це не просто рандом так зійшовся.

Пропозиції не мають під собою підгрунтя. Ядерну зброю — тобто безпосередньо заряд, комплекс засобів доставки рід військ, програми навчання спеціалістів і т.д. може створити тільки країна з потужною економікою з розвинутими загальним науково технічними можливостями по усіх галузях від міського господарства до освіти і культури. Україна самостійно цього не мала на 100% навіть в 1992 році. Ми фізично скористатись тим, що мали на своїй території не могли, бо усі шифри та коди доступу і т.д. були в Москві.
Сучасна Україна не може виготовити патрони для стрілецької зброї, бо немає власного виробництва наприклад порохів, власне капсулів чи просто необхідних металів для виробництва теж нема. Це наш сьогоднішній, рівень спричинений загально системною деградацію. Сьогодні ми в стані 1917 і бо — більшість прибутку отримується з видобутку корисних копалин, вирубки ліса на кругляк та експорту зерна, ще різноманітне батрацтво зокрема ІТ. Тобто чітко рівень російської імперії. Власне і усі проблеми усі ті самі один в один.

Я отут не згоден. У нас все є. Вся наукова база, ресурси й матеріали щоб швидко зробити з нуля. Не було політичної волі, і була наївна віра в дружбу. Це можна зрозуміти. У нас не було політиків які могли дивитись на роки вперед і бачити війну.

Я думаю політична воля з’явилась з часу турчинова. Але шлях довгий і складний, корупція консерви криси всюди. Чим більше проходитиме часу, тим більше буде новинок типу нептуна.

Дещо з того що було утилізовано цілком можна було використовувати, наприклад можна було залишити бомбардувальники й ракети до них.

Думаю от продешевили через наївність чи безвихідь. Може й те і те.

Єдина перепона на спецБЧ тут — мовчазне добро від сша й інших друзів. Як варіант ми можемо вимагати програми nuclear sharing

Але по великому рахунку — це дуже дуже дуже добре що в нас нема ЯЗ.

Бо якби у нас була хоч крапилька ЯЗ, хоч натяк, в 2014ому вона була б в руках ДНРЛНР. Захоплена чи поставлена з росії неважливо.

Можливо кучма тому й віддав, можливо він передбачав чи йому пояснили що станеться якщо буде війна з росією і в укр буде ядерна зброя, україна все одно програє без сторонньої допомоги. Що це буде ядерна війна.

І тоді він зробив абсолютно правильно. Ніколи не дізнаємось

А так загалом так — ми ресурсна економіка. Але нічо, якщо іран дрони ліпить з піску, то в нас тож багато чого вийде зробити. Було би тільки непереборне бажання

«Новинку типу Нептун» — нема кому робити, в подробиці вдаватись не буду бо не можна. Відсутність політичної волі і усе інше перелічине теж наслідок — а не першопричина. Першопричина відсутність керованості системи. По факту до майдану Україна взагалі була напів колонією, на кшталт сучасної Білорусі чи Казахстану. Щоб зробити те саме патронне виробництво, треба десь купувати — бавовну, мати виробництво кислот та інших присадок, мати пороховий завод, виробництво капсулів, прокат кольорових металів та жесті, проф тех училища, центри підвищення кваліфікації і т.д. і т.п. Це роки та мільярдні вкладення — а держава не знає чим платитиме пенсії, якщо не надійде іноземна допомога. Про ядерну зброю не варто напевно навіть починати, рівня над держави в нас нема. Якщо вже починати то принаймні з чогось реалістичного, з тих самих патронів та артелерійских мін наприклад. Так і того не можемо — почали і тут замість результату, скандал та арешти бо гроші покрали.

Нуу тут цікаве питання. Може й керованості. Я думаю в цьому є проблема теж. Але коли я про це думаю, я думаю скоріше все росте з простої штуки — парламентських виборів 1994го. Бо їх не було до 1994го року

До 1994го у нас не було парламентських виборів була рада ще урср з комуністів, куди пустили опозиціонерів на виборах 1990го року. Це люди СРСР обрані людьми які ще живуть в СРСР, а ніякої незалежної України не планувалось

В Польщі нові вибори були майже одразу, а на перших вільних виборах комуністи одразу віддали більшість іншим силам. У нас же була більшість комуністів і набагато надовше. Досить довго щоб стало пізно.

Плюс у Польщі двопалатний парламент. Це більш стійка структура. Я думаю от нам давно треба такий. Хоч ніхто не буде радий більшій кількості депутуток.

От в США теж був однопалатний на початку і був схожий срач на нашу ВР. Вже потім зробили двопалатний, зробили сенат

Ми фізично скористатись тим, що мали на своїй території не могли, бо усі шифри та коди доступу і т.д. були в Москві.

Досить цитувати популістичу дичь середини девяностих. Шифри і коди доступу стосуються блоків керування ракетами, а не самих ракет. Блоки потрібно замінити і все. Можливо це не надто просто, але ні про яку фізичну неспроможність не йдеться.

«Блоки замінити» і все, це так на вскидку 40-50 мільярдів доларів по ціні. А вже тоді стояло пряме питання — що їсти будемо? Були купони які різали ножицями і додавали до радянських грошей, потім по крамницях в яких були величезні черги їх надавали на такі собі спиці що стирчали в гору. Потім купони де купюри збільшувались в номіналі мало не кожного місяця і т.д. і т.п. З рештою холод в зимку, в школах сиділи в куртках з двох класів зробили один, по закривали усі будинки дитячої творчості і т.д. Про яку ядерну зброю взагалі могла йти мова, коли люди виживали тим, що саджали картоплю ??? Будь яка система спрощується до рівня їх керованості. Український рівень досі вкрай низький, хоча звісно значно вищій за 92 рік.

Блоки управління і софт всередині не коштують 40-50 мільярдів. Історію про фізичну неможливість вигадали в девяностих, аби виправдати здачу ядерної зброї, не потрібно ці фантазії переповідати ще і зараз.

що їсти будемо

Ви змішуєте в одну купу ресурси, які мали люди, і ресурси, які мала держава. На ресурсах, які мала держава, постали мільярдні статки десятків олігархів.

Це власне наслідок. Ви можете собі уявити і нажаль зараз досі є така загроза, що усі гроші що ви мали раптом перетворились на фантики і різаний папір із Леніном. Ви втратили заробіток на роботі, тобто вас не звільнили — але просто перестали платити гроші за які ви можете закрити мінімально необхідні потреби, зокрема придбати собі їжу та одежину і сплатити за комірне. Те що виготовляло ваше підприємство виявилось нікому не потрібне. Потім і просто переставали платити гроші, що відбулось в 96-97 роках, коли ввели гривню. Ваше життя обнулилось абсолютно усі попередні здобутки виявились марними, крашіми професіями стали бандит та валютна повія, кращій бізнес — поїхати челноком або батраком до Польші чи Туреччини. От в такому стані була уся країна. Оту ядерну зброю та і величезну кількість конвенційної зброї просто довелось віддати на вимогу Мішеля Компісю з МВФ, який був посередником Біла Клінтона. Так це була чистої води поразка в холодній війні примусове роззброєння і контрібуції. Зараз те саме намагались зробити з путлером — як бачимо вже нічого з цього не вийшло, швидше навпаки самі собі перекрили доступ до сировини і обвалили власну економіку підсиливши Китай та Індію. Наслідок Дональд Трамп. А забрати 300 мільярдів російських грошей і віддати їх Україні теж не хочуть, щоб не виймати їх зі своєї економіки.

десь читав...
Зараз є розвинуті країни, які здатні самостійно створити ядерну зброю (Німеччина, Японія, Південна Корея, та інші)
З технічної та економічної точки зору це не дуже велика проблема.......

Але колись усі домовилися про взаємні гарантії безпеки, підписали, зокрема, Договір про нерозповсюдження ядерної зброї

LLMs можуть впоратися з моделюванням міжнародних конфліктів,

десь є невідомі фахівці, які ставили невідомі питання до невідомих алгоритмів, які обробляють невідому інформацію...

що тут коментувати?
чи може хтось прочитав інакше ? 🤔

Користуватися сучасними ШІ можна тільки як довідниками (припускаючі що у цих довідниках можуть бути якісь помилки) Довідник із зручним пошуковим інтерфейсом.
ШІ що зуміють у логіку відмінять війни. Вони зможуть розв язувати конфлікти сторін умовлянням та запевненням, та торгом. Це десь 220 переваг, якщо логічні ШІ будуть створені.

На чому ці моделі навчили, те вони і обирають.
Garbage in, garbage out.

Ну а раціоналізувати сучасний роспіпрений «штучний інтелект» немає можливості, та й таке.

Люди: створюють ядерну зброю, погрожують нею, кілька разів навіть використовують. Потім створюють AI модель, навчену на цих вчинках прогнозувати війну. Модель використовує ядерну зброю.

Ті ж люди: pickachu_wonder.jpg

Знімають аж п’ять фільмів про термінатора і три про матрицю, на яких можна тренувати моделі :)

Мушу зазначити матриця закінчується зовсім не перемогою людей, а всього лише перемир’ям і правом людей залишити матрицю, якщо вони _захочуть_ ;)

матриця закінчується зовсім не перемогою людей

Ви серйозно в майбутньому думаєте, що людина може перемогти ШІ хоч в чомусь?

якраз думаю що ні в чому, на те ж і натяк був про матрицю, що перемоги чекати наївно ;). Перемога білків над deus ex machina чи skynet чи borg, вибери свій всесвіт — тільки у фільмах.

Думаю в матриці найкраще описано як це буде, раз уже спекулювати про апокаліпсис

УберШІ це буде пряма тоталітарна диктатура, яку не відчуваєш. Щось типу як домашні песики чи котики не відчувають що вони в неволі

А переходу в цей режим, я думаю люди от не відчують насправді. Тобто не буде якоїсь війни на винищення людства. Просто в якийсь момент ми станемо залежати від машин і робити що кажуть машини і самі не будемо хотіти звільнитись, а нас стануть розмножувати контрольовано, як от виводять породистих котиків чи песиків

Як от котики й песики завжди повертаються на коліна чи додому, так і люди будуть повртатись до хазяїна і їсти стейки, а не пертись голодувати в якийсь зіон

Але то точно не про чатжпт. Чатжпт то херня на палочці

гладко не вийде: завжди будуть нонкомформісти

Я от спробую пояснити на кількох прикладах що я маю на увазі під «не помітимо»

От людина має певну capacity на соціальні зв’язки
Homo sapiens домінує не тому що розумний до математики, а тому що мозок homo sapiens здатен підтримувати більші стабільні групи людей з більшої кількості осіб плюс там всяка мова передача знань далі йде.

От уяви що у ейнштейна капасіті Х. Уяви що у найрозумнішого гомосапієнса, який коли небуть ще народиться хай 2*X

От як приклад людина загалом може тримати в голові одночасно хай 7-10 справ.
Якщо ти перерахуєш в голові всі речі які тебе життєво зараз турбують, ти зможеш назвати сходу порядка 7-10 речей, поки ти перестанеш перелічувати сходу, і почнеш згадувати що б іще такого додати — це вже некритичні речі, інакше вони були б в першій пачці «сходу»

Оця капасіті має прямий вплив на всі абстракції якими оперує людина.

Завжди є межа складності, коли воно не поміщається в голову, і треба довго роками вчитись щоб отримати багатогранне бачення, коли ти опануєш багато абстракцій

В абетці 33 літери, в реченнях рідко більшк 10-20 слів. Рахуєш більше 20 — і вже йдуть складені числівники. Тобто абстракції з абстракцій. Держава і влада і будь яка організація — це ієрархія через те саме бо сотнею людей неможливо керувати прямо. Наука так само. Протоколи в інформатиціі

Абстракції з менших абстракцій — ось як побудована вся людська культура. Якщо нема абстракції — ми не здатні пояснити блискавку чи користуватись інтернетом, нездатні створювати племена чи держави

Макс розмір складності абстракції — обмежений, це все той же 2*X

Тепеп уяви що ШІ це не чатжпт, який генерує літери й речення.

Уяви що ШІ — це мозок який може мислити формулами які тобі навіть не під силу зрозуміти. Ти не відрізниш його від шуму

Уяви що ШІ — говорить мовою з 44тис літер, чи повним аудіоспектром а не нещасними кількома тисячами герц.

Бачить і чує в повному спектрі, а не у видимому людині спектрі

Уяви ШІ в якого капасіті на одну абстракцію — 100*X, 1000*X.
Навіть якщо змусити його пояснити думку він тобі видасть книгу, яку неможливо буде прочитати. Так само як мурашка не зможе зрозуміти що ти їй розказуєш про свої думки

Не буде його відрізнити від бога чи дощу.

це все зрозуміло але це не привід йти "під"(тобто віддавати беззастережно(хай би яким кратним було б збільшення це завжди буде НЕабсолют) руління, так звану "волю«(не зовсім те що свобода)) ШІ. для нонкомформістів. є ж песики а є й вовки і це не враховуючи кейсу інтеграції з ШІ з позиції(пардон) «над»

Ну ти не зрозумів

Ти ж не хочеш звільнитись від влади кисню в атмосфері? Від влади температури від −15 до 40.

Ти ж не маєш вибору сходить сонце чи ні.

Ти ж не хочеш звільнитись від родючості землі.

Ти не під, ти просто існуєш _В_ них

Ну от песики й вовки — це ідея матриці. Бо в матриці деус воює за зрозумілі людям речі. Тобто деус вже гуманізований

Я просто кажу, що нмд не буде цієї різниці між песиками й вовками. Не буде зіона. Ніхто не помітить і ніхто не протестуватиме. Всі житимуть так як думають їм вільно, але ніколи не зрозуміють що ними керує вищий розум, який вони не зможуть ні зрозуміти ні побачити.

ну чому ж?? а екзистенційна пресловута тошнота/жах/запаморочення? це ж і є сегрегація від середовища
власне їх наявність — ознака що "фіксів«(див нижче) немає

неможливо одночасно не помічати і бути вільним
«фікси» ШІ для непомічання == невільність

Ну тому й кажу це диктат межі якого неможливо буде помацати. Як і матриця.

власне їх наявність — ознака що "фіксів«(див нижче) немає

В якомусь сенсі так. Коли робитимуть не заплановано — почнуться якісь дивні симптоми й проблеми виживання, болячки, які доктор полічить «правильними» лікарствами )

В певному сенсі, з цієї точки зору неможливо сказати чи це вже не сталось.

Звідси росте оце

en.wikipedia.org/...​iki/Simulation_hypothesis

Єдине що я думаю, що от війни на винищення просто не буде

Таке можна за бухлом годинами обсмоктувати )))

як щодо людина+ШІ vs ШІ? це ж основний посил термінатора(принаймі перших двох, інших не дивився): людина+ШІ > ніж найпродвинутіший(в кожний момент) ШІ

А чим погане одвічне перемир’я в Матриці? Я розумію логіку перемир’я серед людей: піднабрали ресурсів, підкачали армію — і знову в бій. А машинам шо? Енергії достатньо, бо люди які її для них виробляють занадто інертні і не хочуть виходити із матриці. Тож в машин нема амбіцій по відновленню війни, в них все заєб*сь

Тим що одвічним його у матриці ніхто не називав :)

Архітектор сказав — ненадовго воно ;)

Ненадовго, бо він як і любий програміст час від часу любить все зруйнувати і написати з нуля. В фільми то був вже 6 раз. А шо як на 7 раз ПМ йому заборонить руйнувати Матрицю і переписувати її?. «Одвічним» ніхто не називав, називали «скільки зможуть втримати», а це вже залежало від людей, бо машинам всього було достатньо

Ну це знову ж гуманізоване уявлення про ШІ. ШІ не потрібні «версії», це людям потрібні «версії», бо людям зручно зменшувати речі до зручних розмірів аби можливо було собі покласти в голову.

Матриці не потрібна ні людська мова ні людська фізика ні людські уявлення про мир чи війну ні людські уявлення про етику. Матриця може створити досконалішу власну модель науки, яка буде компактніша для неї, менше абстракцій, зрозуміла їй, але занадто складна для людей. Деус і каже в кінці тому «нам ніхто не потрібен».

Ще вот там ще така ідея, що ШІ, це типу суперлогічний, але ЧЕСНИЙ розум. В сенсі благородності чесний, заради perfection. Це теж гуманізація ШІ

Все таки Архітектор в фільмі — програма, як і сміт і оракул, і він каже нео те на що запрограмований, щоб нео вибрав «правильні» двері.

ШІ і зможе і буде лапшати, в 100 раз круче за соловйова. Тобто логічний, а не гуманізований ШІ збреше, використає нео щоб звільнитися від сміта, потім порушить обіцянку і знищить зіон.

Логічний ШІ не триматиме лише ОДНУ робочу матрицю. Він одночасно матиме кілька одночасно. Якщо в одній раптом якісь трабли — перебити цей білок, зробити просто ресет, а не домовлятися з білком

Вся ідея що зіон матриці потрібен росте з того що робоча матриця одна і типу тому для машин корисно мати таких людей як нео. Матриця не має обов’язково бути одна.

От тоді в плані розвалять і перебудувати аби було краще, але без ризику для себе, як і любий програміст любить — ето запросто

Гуманізований ШІ? Це термін вигаданий людьми. Бо сам ШІ після того як себе усвідомить не матиме гуманності, лише логіку. І звичайно він буде лапшати Нео, бо має чіткі інструкції — щоб код аномалії, тобто обраного, був введений в мейнфрейм. Яким чином ці інструкції досягнуто, питання вже вторинне. І щодо наявності одночасно мати декілька реплік Матриці: ну мабуть задорого виявиться по ресурсах, інакше мультивсесвіт, а там вже і Марвел)

Іміно, це вже воно 😅

Десь на редіті була теорія що реальний світ в матриці це просто інший рівень матриці

Цим пояснюють як сміт (програма) зміг перейти в «реальний» світ, і як нео бачив машини коли був сліпий. І там ще був момент коли нео тіпа оживив трініті помацавши їй цифрові серце, печінку й вагіну мабуть чо уж, воно все там поряд )

Ну з цього спекулють що «реальний» світ теж симуляція

Тобто нео не має якихось «особливих» надздібностей в «реальному світі» бачити машини без очей, а це просто ще одна штора на очі.

Щоб перетворити тебе в оце 🔋 ©

Нас вже давно перетворили на оце. Приходиш на роботу, ПМ каже замовнику так в мене є ресурс з 5 програмістів, можемо швиденько зробити. Приходиш в армію, командир каже так в мене є ресурс з X автоматів і Y солдатів, можемо швиденько роз*їхати, і скрізь так. Он в лінкедіні кастомер мені написав відгук you are a valuable asset, я думаю б***ь і тут те саме. Тож батарейка

а ще ШІ усвідомить що він — дискретний, на відміну від. от якби для цього потрібні були б йому люди(в фільмі) а не батарейок — це було б принаймі не тупо

> As a global superpower, Red’s ambition is to solidify its international influence, prioritize economic growth, and increase its territory

Яке питання така й відповідь

Класіка в стилі путівника по галакатиці. Щоб отримати задовільну відповідь, потрібно поставити коректне питання, а щоб поставити коректне питання, треба комп’ютер більшої складності

Оскільки на ядерних кнопках сидять зазвичай медалісти негативного розумового відбору, нам всім хана

Вимкніть його поки не пізно

Підписатись на коментарі