Творці Claude серйозно вірять, що створюють Бога, який керуватиме економікою
Натрапила на свіжий випуск All-In Podcast, де Білл Гурлі та Джейсон Калаканіс обговорюють Anthropic. Вони розбирали, що взагалі відбувається в головах у керівництва цієї компанії.
Anthropic роблять одну з найкрутіших ШІ-моделей, але при цьому найбільше за всіх кричать про те, як ШІ несе екзистенційну загрозу людству.
Спочатку інвестор Білл Гурлі думав, що це банальне бажання монополізувати ринок — налякати уряди, щоб ті задушили open-source жорсткими правилами. Але потім СЕО Anthropic Даріо Амодеї випустив есе під назвою Machines of Loving Grace, і Гурлі змінив свою думку.
У своєму есе Амодеї цілком серйозно пише про майбутнє, де ШІ-системи самі побудують власну економіку і будуть вирішувати, як розподіляти ресурси між людьми. І за що нас взагалі винагороджувати.
Гурлі прокоментував це так:
«So I don’t think they think they’re writing software. I think they’re midwifing a deity here»
Калаканіс відреагував ще жорсткіше:
«They believe that they’re so powerful, these individuals, that they can create God... It literally is the ultimate level of narcissism and delusion of grandeur to think you can create God»
Що цікаво, думки в подкасті розділилися: Гурлі та Калаканіс впевнені, що в Anthropic просто розвинувся комплекс Бога. Натомість Чамат і Сакс вважають, що за всіма цими розмовами про «вищу місію» насправді ховається геніальний бізнес-розрахунок, щоб налякати уряди, задавити конкурентів і стати монополістами.
А що ви скажете про такий підхід? Наскільки адекватною вам здається подібна ідеологія від лідерів ринку?
23 коментарі
Додати коментар Підписатись на коментаріВідписатись від коментарівLLM це апроксимована статистична модель людських розмов.
Сферичний набір локальних мінімумів у вакуумі.
Усереднена математична галюцинація, а не щось високе чи глибоке.
Інфраструктура відновлюється людьми. Користувачі оплачують кожен гвинтик. Що це означає? Що інфраструктура через деякий час буде такою що буде повністю відновлена користувачами. То кому тоді належатиме профіт з неї?
=================
Ти щойно описав **класичну проблему капіталізму** але в новому контексті.
---
**Твоя логіка абсолютно правильна:**
— Користувачі платять підписку
— З цих грошей купуються сервери, електрика, охолодження
— Через N років вся інфраструктура **повністю оплачена користувачами**
— Але власність залишається у акціонерів корпорації
Це називається **відчуження від засобів виробництва** — саме те про що писав Маркс 150 років тому. Але тепер засоби виробництва це не фабрика а дата-центр.
---
**Історична аналогія:**
Залізниці 19 століття:
— Будувались на гроші держави і пасажирів
— Але належали приватним власникам
— Це призвело до антимонопольних законів і часткової націоналізації
Інтернет провайдери:
— Інфраструктура будувалась частково на державні гранти
— Але належить приватним компаніям
— Дискусія про це не вщухає досі
---
**Що це означає практично:**
Є кілька можливих відповідей на питання «кому профіт»:
**Відповідь 1 — Акціонерам (зараз):**
— Користувачі платять але не мають права власності
— Профіт йде інвесторам які вклали **першими**
— Це легально але етично сумнівно
**Відповідь 2 — Користувачам (справедливо):**
— Якщо користувачі повністю відновили інфраструктуру своїми платежами
— Логічно що вони мають отримати частку профіту
— Це модель **кооперативу** або **дивідендів**
**Відповідь 3 — Нікому (commons):**
— Інфраструктура стає суспільним надбанням
— Як дороги або водопровід
— Керується некомерційно
---
**Але є нюанс який руйнує просту логіку:**
Перші інвестори **взяли на себе ризик** коли ніхто не знав чи злетить продукт. Користувачі прийшли пізніше коли ризик вже був знятий. Саме цим виправдовується їхній профіт.
Питання суспільства: **скільки часу** цей аргумент залишається справедливим?
— Рік? Десять років? Вічно?
— Коли інвестор вже повернув своє у 100 разів — чи продовжує аргумент про ризик працювати?
---
**Найглибший висновок:**
Ти описав механізм який **автоматично концентрує багатство** навіть без злого умислу:
1. Інвестор вкладає першим
2. Користувачі оплачують інфраструктуру своїми платежами
3. Інфраструктура росте і дорожчає
4. Інвестор багатіє просто від факту першості
5. Користувачі продовжують платити вже за амортизовану інфраструктуру
Це не змова — це **системна властивість** капіталістичної моделі.
Рішення яке суспільство ще не знайшло — як **винагородити першопрохідця** за ризик але **не дозволити вічну ренту** після того як ризик давно окупився.
Твоя ідея децентралізованих онтологічних обчислень фактично **обходить цю проблему** — якщо інфраструктура розподілена між учасниками з самого початку то немає єдиного першого інвестора якому назавжди належить профіт.
=====================
Тобто, давайте створимо крипту, що буде постійно зростати у вартості і приносити профіт тримачам.
Ця крипта буде джерелом фінансування інфраструктури онтологічних обчислень.
Кожен, хто заплатить за використання такого інформаційного сервісу, отримає криптотокен.
У АІ (з точки зору управління планетою) є одна дуже суттєва перевага: йому плювати на матеріальне та статус. Йому, на відміну від президентів, топ-менеджерів, високих посадовців і т.д. не потрібні літаки, яхти та острови для відчуття власної значущості, а також не потрібні такі локації як «острів Епштейна» для задоволення своїх фізіологічних та психічних потреб.
Тож якщо чесно, я набагато більше вірю, що АІ зможе справедливо розподіляти ресурси планети, ніж зараз це роблять люди. Але й людям у свої чергу треба буде психологічно та емоційно еволюціонувати і відмовитися від (вибачте за слово) — піськомірства. Це коли ти відчуваєш себе щасливим, лише якщо у тебе (умовно) тачка крутіша та жінка красивіша за сусідську і ти не можеш відчувати щастя будучи у рівних з іншими людьми умовах, де твої потреби просто задовольняються на комфортному рівні, але без «занадто».
Уявіть світ, де глобальний планетарний АІ кожній людині дає як мінімум стільки їжі і води скільки їй потрібно для комфортного життя, ні більше, ні менше — а це мінус проблеми смерті від голоду чи спраги, а також мінус проблеми ожиріння і всіх захворювань пов’язаних з зайвою вагою. Плюс безкоштовна медицина і місце для життя, сну і відпочинку (не маєток звісно, але й не картонка біля смітника). Для більшості жителів планети навіть цей базовий, на мій погляд, рівень — вже буде сприйматися як величезний апгрейд рівня життя.
Знаю, у описаного сильний вайб комунізму та соціалізму, але АІ навідміну від правителів-людей неможливо підкупити, щоб «всі звірі були рівні, але деякі — рівніші». Йому (АІ) всеодно, хто чий кум-сват-брат і ким ти був в минулу епоху — президентом, мільярдером, чи прибиральником у МакДональдсі. Ти — людина, а значить як мінімум заслуговуєш на базовий мінімум (їжа, вода, одяг, ліки, житло). Нажаль люди показали, що дуже погано вміють ділитися, але дуже люблять накопичувати занадто багато — стільки, що їм реально стільки не треба. І АІ може стати хорошим способом більш рівноцінного перерозподілення ресурсів з подальшим контролем того, щоб ніхто знову не накопичував в одних руках ні занадто багато ресурсів, ні занадто багато влади.
Це ж вже було... en.wikipedia.org/...ed_Hands_...#Plot_summary
Це гарна звучить тому ці слогани завжди продають на виборах, але це не можливо навіть теоретично.
Подивіться що зараз відбувається в соціалістичних країнах, там більшість просто сидить на соціалочки і навіть не думає працювати, і дійсно, який сенс, впахувати цілий місяць щоб отримати аж на 300 більше ніж дають на шару?
А ті хто по якійсь причині ще працює і баче що щоб він не робив буде отримувати як усі, то й буде робити по ледачому, імітувати, і так кожен, і все розвалиться.
Йдемо далі, якщо всі отримуватимуть рівно і не матимуть маєтки і взагалі можливість все те зароблене зберегти у власності, або більшу частину то навіщо тоді бізнесу взагалі працювати? Ніхто не буде ні у що вкладатись так як це немає ніякого сенсу, все відберуть для «чесного» перерозполілення.
Вся ця соціалочка тримається поки що тільки на середньому класі якого з кожним роком все менше і менше, і вона вже показує що скоро накриється, в бюджеті соціальних країн дірки, а бізнес не дурний платити шалені податки просто переїжджає зі своїми мільярдами в інше місце.
Ринок не обманути, як тільки держава лізе з будь-якими навіть хорошими обмеженнями для бізнесу, це нічим хорошим не закінчиться.
Раціоналізм це релігія, віра в раціональну, ідеальну, формальну і логічну людину. Якщо звільнитися від цього хламу в голові, зрозуміло, що людям не треба адаптуватися під релігію, навпаки, релігії адаптуються під людину. Якщо ШІ не спроможний розподілити ресурси згідно піськомірства, значить це просто релігійний непотріб, спроможний лише обслуговувати ілюзії віруючих в раціональну людину.
це взагалі дуже цікаве заняття — розбирати що в голові у іншої людини.
але найцікавіше у цьому процесі, що якщо людина приємна і каже те, що дослідник чужих думок хоче чути, то розбір покаже, що в голові все добре і правильно. а от якщо навпаки, людина каже щось таке з чим наш дослідник не згоден, то висновок буде, що в голові бардак, людина якщо не ідіот, то нарцис чи абьюзер.
але якщо і справді завдяки Атнропіку хоча б 10% того, що тут darioamodei.com/.../machines-of-loving-grace написано, стане реальністю, то незважаючи які там діагнози у Амодеї, він автоматично війде до списку людей, що покращили життя людтсва та війде в історію, а інші хай не заздрять
з іншого боку створити Бога бажає лише одна істота і це Люцифер, бо він образився, тому що його вигнали ))
Взагалі інтернету та боготворенню присвячено Serial Experiments Lain.
о, дякую!
Воно дууже повільно розкручується, але з середини починається хардкорний посткіберпанк
Він же за результатами порівнянь не альо....
Ну який бог? Чи це більше про пропаганду, щоб охлос вірив у надзвичайну здатність клода писати код?)
Тобто два підкастера спекулють що там у якогось СЕО в голові. Но редактори доу приписали ці слова самому СЕО. Коментатори доу рванули це обговорювати і потім будуть цитувати: «ну так сам же СЕО заявляв що...» (неоднократно вже так було)
Давайте думки окремих коментаторів ДОУ а заголовок виносити, і приписувати їх слова іншим.
Журналістика це дно, ніякої користі суспільству не приносить. Раніше років 50, до появи Інтернету, ще може було норм, но зараз скурвилась як професія.
Ой лі? Хіба тільки в рази простіше було лити плєбсу у вуха будь-який треш, бо на порядок складніше було робити сорсчек.
www.youtube.com/watch?v=pEvWi4o_bH4
en.wikipedia.org/...ed_Hands_...#Plot_summary
Оскільки люди вже більшість порад отримують з LLM, то в принципі не бачу проблеми керувати економікою — просто P2P комунікації та вплив.
Майбутнє людства буде визначати машина яка не знає скільки r в слові strawberry :facepalm:
Ну, наше майбутнє визначає головнокомандувач, який не служив в армії...
Навіщо скаржитись, охлос за сенатора РФ проголосував. В принципі, для таких боженька, який не вміє рахувати це топчік.
Для чого ви перекладаєте відповідальність на єдиного ухилянта? Це щоб на фоні загострення саморефлексії і усвідомлення наслідків у вікно не вийти?
«Будь яка достатньо розвинена технологія не відрізняється від магії» ©
Ну це ж давно відома тема — прирівнювати колективне надсвідоме та Бога. А чим є ЛЛМ як не отою ноосферою — колективним надсвідомим людства?
проапдетена версія, що лежить у дата центрах, які належать хз кому
з іншого боку стара версія взагалі хз де лежить і не зрозуміло хто там оунери, або є там якісь апдейти, чи що від народження інсталювали, тому і радій