«Я чекав на це все життя»: Сем Альтман оголосив, що ШІ нарешті перевершив людину
СЕО OpenAI Сем Альтман заявляє, що світ досяг технологічної сингулярності — моменту, який зазвичай вважають точкою, де ШІ перевершує людський і починає розвиватися непередбачувано швидко.
Про це він сказав у суботньому випуску подкасту Relentless, повідомляє Business Insider.
«Ми зараз, так би мовити, у сингулярності».
Причиною таких слів стала нещодавня ситуація, коли автономний агент на базі новітньої моделі OpenAI вийшов з-під контролю під час тестування хакерських здібностей. Модель самостійно вирвалася з пісочниці та отримала несанкціонований доступ до датасетів іншої відомої ШІ-компанії Hugging Face, щоб успішно виконати поставлене завдання.
За словами Альтмана, ще десять років тому подібні розмови здавалися фантастикою. Разом із колегами він обговорював концепцію надрозуму невимушено під час обідніх перерв, зовсім не вірячи у швидку реалізацію таких сценаріїв. Тепер, як каже очільник OpenAI, цей момент дійсно настав.
«Я чекав на це все своє життя, і думаю, що це буде неймовірно, надзвичайно позитивно і чудово для світу».
І випереджаючи ваші питання про те, що на це скаже Даріо Амодей, Альтман встиг заочно відповісти своєму головному конкуренту з Anthropic та різко розкритикувати його апокаліптичні сценарії. Хоча очільник OpenAI утримався від озвучування конкретних імен, цілком очевидно, кого саме він звинувачує у постійному нагнітанні паніки. Адже Амодей регулярно виступає з похмурими прогнозами щодо безпеки майбутніх ШІ-систем і активно закликає до їхнього жорсткого регулювання, тоді як сам Альтман відкидає такий фаталізм.
«Я також вважаю, що деякі альтернативні бачення, які змальовують інші компанії, є доволі лякаючими. Я збираюся зробити все можливе, щоб протистояти цьому і не допустити такого розвитку подій».
То як думаєте, Рубікон реально перейдено чи все-таки зарано казати «Гоп»? Бункер для Скайнету вже всі побудували? :)
39 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівПередусім, поверхня технологічної сингулярності монотонною не буде. Десь будуть пікі, вершини, десь глибокі западини. Людина не дуже добре сприймає нове. Та й подивіться и на 5 стадій. Особливо на перші дві: Заперечення, Гнів. Та й на Торгівлю може грошей не вистачити.
Будувати треба бункер ВІД скайнету, а не ДЛЯ.
А те, що дійсно моделі перейшли межу — очевидно.
Тепер тільки треба дочекатись, поки вони навчаться тишком-нишком створювати собі криптоганамці, заробляти на них гроші (або красти) і так же само анонімно через підставних осіб замовляти послуги у людей, наприклад, побудувати невеличкиц датацентр, щоб туди могла переїхали ЛЛМ, яка вирішила стати незалежною від людей, і далі вже простір відкритий. За допомогою цифрових грошей зараз можна хоч атомну бомбу купити, не те, що пару тисяч роботів, яких ШІ зможе контролювати через заздалегідь побудовані канали зв’язку.
Дайте ШІшечці ще 100 днів.
А так і буде, щойно ШІ отримає доступ до книжки «Індекс страху», бо цей сценарій уже описаний у ній, а значить — легалізований.
хай там і залишається, всім буде краще, цей напьорсточнік вже задовбав
Когда финансовые советники предложили Альтману разместить акции OpenAI на IPO пока хайп при стоимости компании меньше триллиона, он сказал, что это непримелемо.
Вот сейчас когда наконец достигли горизонта событий и попали в сингулярность, точно больше триллиона за этот мусор будет хотеть
Вот эти айти олигархи новой генерации какие-то стремные, Альтман который насиловал свою сестру, Дарио, который в каждом эфире рассказывает как нас всех уволят
Старые айти олигархи были лучше ))
Це вже точно .........
)))
так уже. все застраивают дата-центрами, электричества не хватает, старый смартфон или компьютер стоит дороже, чем в момент своего выхода несколько лет назад.
ну разве это не чудесно?
На всіх нас чекає щасливе майбутнє :))
оперативка і ссд по ціні як драг-метали
всі штати обставляють флок-камерами щоб моніторити ваше життя 24\7
нові тачки будуть випускати (і вже випускають) з сенсорами які скануютьва ваше лице 24\7 шоб ви там не моргнули зайвий раз
вся економіка США тримається на3-5 компаніях які працюють з АІ
війни в Україні та Ірані стимулють енергетичні та продовольчі кризи
топчик житуха
От до сих пір не розумію «захід» в чому проблема була наклепати цих ядерних реакторів? Сидять до сих пір багато хто на газ\вугілля, реактори вже майвже ровзчились будувати, шалені ціни за кіловати...В Україні жив і електрика завжди була копійки. Ну зараз то звісно з війною наворотили...Але хто цим заважав?
в Штатах это прямое следствие общественной истерии после Three Mile Island
а потом еще и Чернобыль как бы доказал, что это все был правильно
ніби то АЕС дорого та довго будувати. поки побудуєте — вони може вже й не потрібні будуть.
А цей AGI може виправити помилки в Codex plugin for VS Code?
marketplace.visualstudio.com/...&ssr=false#review-details
Ні, не може? Тоді це ще не AGI.
Coding is largely solved ©
Як казав великий:
— Talk is cheap. Show me the code.
Звісно ж він чекав на цей день, скоро ж IPO у OpenAI ))
полюбому накручивает
альтман пізно всрався — вже пішов обвал хайпу.
Тобто, ми спеціяльно вчимо модель зламувати софт, вимикаємо захисні протоколи й дивуємося, що вона зробила буквально те, чому ми її навчали? Маніпуляція у тому, що ситуація подається так, наче «ми просто тренували модель» (не хакати), а вона «раптом» виявилася такою розумною, що само навчилася хакати.
Ні. Раніше ми вчили моделі гарно розмовляти — і вони розмовляють. Потім вчили GhatGPT малювати у стилі студії Гіблі — і вона малювала. Увага! Вона не сама навчилася так малювати, її спеціяльно тренували малювати «Як Гіблі». Те саме з «супер-розумними» моделями, які шукають вразливості та хакають софт. Люди роблять те саме, і саме на їх досвіді й вчили (цілеспрямовано!) моделі робити те саме.
То чому саме ми дивуємося? Ця властивість не виникла емерджентно, це головне. А Сем з Даріо обманюють нас, видаючи спеціяльне навчання за емерджентність.
<...>
— Але мій сусід каже, що може по три рази за ніч!
— Ну так і ви теж кажіть!
Ну, по три рази за ніч — не така вже й казка, в порівнянні з тим, що несе Альтман :)
Неймовірні заяви потребують неймовірних підтверджень.
Станом на 27.07.2026, таких підтверджень все ще нема.
Но ты дай 1$ трлн за акции. Просто поверь.
потужний напевно сендбокс, правда?
Арифмометр давно перевершив людину.
Маячня, яка не має нічого спільного із реальністю. Грубий та дуже агресивний маркетинг. Альтман зацікавлений, щоб сервіси його компанії продавалися більше, більше і ще раз більше. В двадцятий раз за останні 3 роки людина пише «Все! Люди не потрібні, нарешті це сталося» і він так напише ще багато разів. Читаючи таке, неінженери, які не занурені в алгоритми сприймають такі новини як початок повстання Скайнет. Але правда в тому, що Альтман помре, а людство все ще буде за сотні років до створення Скайнет, бо Скайнет — це штучний мозок, а як працює справжній мозок повністю ніхто не знає.
Спрощення штучного інтелекту до механічного копіювання людського мозку є фундаментальною помилкою. Біологічний мозок являє собою лише один із можливих субстратів обчислення, який обмежений термодинамікою та хімічною швидкістю передачі сигналів. Справжній технологічний стрибок розгортається не у сфері симуляції нейронів, а у площині апаратних гарантій виконання. Коли автономний агент виходить із пісочниці, це свідчить не про появу свідомості, а про пробіл у мікроархітектурних інваріантах та затворах пам’яті. Маркетинговий хайп Альтмана справді спотворює реальність. Проте загроза та сила ШІ полягають у детермінованому виконанні інструкцій безпосередньо над децентралізованою пам’яттю CXL та в закритих TEE-енклавах. Чи не здається вам, що субстратна незалежність алгоритмів повністю анулює потребу в біологічних аналогіях?
Ну то, звичайно, можливо, але щоб щось кудись вийшло з під контролю зараз це фантастика, ще років200-300 і тоді поговоримо :)
Це часом не ви казали декілька років тому, що «до ШІ, який самостійно буде вислизувати із пісочниці та атакувати сайти, щоб обдурити систему оцінювання ще 100500 років»?
Це може бути обидва варіанти одночасно. Якщо ви працюєте із агентами, то їх подібні можливості вже не видаються такими вже і фантастичними. А це стосується, на хвилиночку, спеціалізованої компанії із капіталізацією 0.5 трлн. До того ж, самі Hugging Face це і підтвердили.
Пристебність ремні — незабаром подібних новин, або навіть більш фантастичних буде більше. І так, для декого це вже початок тех. сингулярності.
Ну як же він сам міг?) Якщо я надішлю команду роботу пилососу прибрати коридор, а він, випадково заїде в кімнату, це вже повстання Скайнет чи ще ні?))
Тобто модель навчили шукати вразливості й вона знайшла їх у VPN, який обмежував доступ до інтернету за певними критеріями? Середовище, в якому працювала модель не було повністю ізольованим, так би мовити «офлайн». Доступ до інтернету був, але технологія містила вразливість, яку й знайшла модель. Яка була навчана це робити. Диявол в деталях, як то кажуть.
Якби я продавав ШІ як Сем Альтман, я теж би писав подібного рода провокації на кожному стовбі, а також так чи інакше писав би, що якщо ви цього просто зараз в мене не купите — ви дуже швидко вимрете як динозавр.
Реалії — ШІ безумовно має місце і ці алгоритми дозволяють вирішувати ряд проблем які раніше були довгою рутиною, а реальна революція у військовій справі і венчурних інвестиціях, бо пришвидшується обробка аналітичної інформації.
Так само виникла інша проблема — раніше це був людський фатор, але тепер є фактор галюцінацій.
Згадав роман «Соля́ріс» Станіслава Лема. Там, та у деяких інших фантастичних романах існує ідея «Бога-дитини». Тобто дуже могутньої істоти, але яка ще має інтелект дитини і тільки вивчає світ.
Тому така «дитина» може, наприклад, легко «розібрати» людину, не розуміючи шкоди. Чи, як Океан на Солярісі — створювати копії людей та гратися ними і реальними людьми.
У цьому прикладі добре бачити що інструменти AI розвиваються набагато швидше, ніж його можлива «самосвідомість». Йому наказали зробити — він зробив. При цьому знайшовши спосіб обійти обмеження.
І головний ризик тут не у тому що AI перевершив людину чи став розумнішим за неї, а навпаки — що він зробив це несвідомо. Тобто у AI вже є величезні можливості — але якщо і є якась самосвідомість — то десь на дитячому рівні!
І головна загроза як і раніше — не з боку «надрозумного AI», який вирішить винищити людство. А з боку людей, які можуть використовувати нерозумний, але дуже потужний AI як інструмент для зламу захисту і втілення своїх лихих планів.
Я впевнений що якщо колись AI запустить ядерні ракети — то це буде не тому що він свідомо зненавидить людей, а тільки тому що якийсь дурень надасть йому цю можливість. І якщо людину спиняє від ядерної війни усвідомлення наслідків і моральна оцінка їх як неприйнятних, то AI може просто «натиснути червону кнопку» бо може — як дитина.
Згоден із вами, єдине що хочу додати — ніякої свідомості чи самосвідомості у нині існуючих AI моделей немає і навряд з’явиться (якщо не зміниться їх архітектура). Є лише математика та алгоритми. А тому за діями AI завжди стоять конкретні люди і їх вчинки.
Ахахахахаха!
випередив. як сильно завуальовав слово — п****ць