OpenAI зосереджує свою увагу над «суперінтелектом»

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Сем Альтман у своєму персональному блозі поміркував про створення AGI. З його слів, OpenAI знає як цього досягти і що з цим робити. Якщо чесно, якраз щодо першого у мене сумнівів мало, найімовірніше, справді уявлення є, і чомусь мені здається, що до нього не так уже й далеко. А ось щодо другого, мені трішки страшнувато.

Люди багато хто не знає, як приготувати яєчню або як забити цвях, а вже тим паче не знає, що робити за умови створення AGI. Боюся, це може стати новою «ядерною бомбою», і яким буде масштаб наслідків її створення, ми собі зараз навіть уявити не можемо.

@Zatishna_Galera

Теми: AI, OpenAI, майбутнє, розвиток

Ctrl + Enter

Volodymyr Deep Learning Research Engineer 07.01.2025 19:32

З його слів, OpenAI знає як цього досягти і що з цим робити.

Сем Альтман це CEO OpenAI і в його інтересах робити так, щоб компанія отримувала якомога більше інвестицій та прибутків. Схожим чином Дженсен Хуанг розповідає як ШІ робитиме більшість роботи програмістів — його можна зрозуміти, йому треба побільше відеокарт продати і хайп ШІ ідеально цьому сприяє.
Я думаю Сем дуже задоволений результатами o3 на ARC-AGI і вже передбачає які круті результати будуть на ARC-AGI 2 (які вони ж в OpenAI і розробляють разом з оригінальним автором). Якщо вдасться всіх переконати, що хороші результати на цих бенчмарках це AGI, то вони дійсно його досягнуть.
Зрештою, можливо ніякого AGI і не треба — достатньо буде системи, поведінка якої дуже переконливо імітує наявність AGI, як наприклад сталося з LaMDA і одним інженером.

Якщо все ж AGI буде створено за мого життя, то я спробую скачати і запустити локально — ось що я з цим буду робити)

Відповісти

Підтримати

Дмитро 07.01.2025 17:50

Якщо не помиляюсь то openai були переважно імплементаторами ідей які хтось генерував до цього про трансформери, rule-based reasoning(chain of thoughts). Не зрозуміло чого б OpenAi імплементував щось фундаментально нове, поки що тільки імплементує з опен сорсу концепції запропоновані іншими, а всі ці онцепції ще дуже далекі в AGI — по суті покращеня роботи тих самих трансформерів які предіктять слова щоб предіктити слова.

Andrii Sevastianov 07.01.2025 14:34

З його слів, OpenAI знає як цього досягти і що з цим робити. Якщо чесно, якраз щодо першого у мене сумнівів мало, найімовірніше, справді уявлення є, і чомусь мені здається, що до нього не так уже й далеко. А ось щодо другого, мені трішки страшнувато.

Ну... що з цим робити це взагалі не питання: заробляти гроші. Це сенс існування будь-якої компанії, якщо у неї буде AGI, то вона буде його продавати та/або використовувати у виробництві. Тому це взагалі не питання.

Цікавіше «знає, як його досягти». По-перше, якщо OpenAI не знає, як цього досягти, то цього вони ніколи в житті не сказали б. По-друге, написати в блозі «знаємо що треба робити»... Ну... якщо не вийде, то знову це лише блог, та завжди можна придумати відмазку. Ну і last but not least, його ще ніхто не зробив, навіть визначення AGI немає.

Ще, якщо ти знаєш та на 100% впевнений, то зазвичай риторика: ми розробляємо AGI, дата релізу 2026, рішати буде такі й такі задачі. Або навіть тобі не треба пригортати увагу для цього, зроби та захопи ринок. Як це було з ChatGPT 3. Знаємо як це зробити... Виглядає більше як піар... Я б його розглядав як сигнал, що вони застакалися.

Anton Product Designer 07.01.2025 14:47

Теж вважаю що всі ці розгони про суперінтелект то булщіт рівня «ші нас всіх замінить»)
Хто користується сучасними ллмками — знає як вони галюцинують. Для того щоб це пофіксити придумали механіки «мислення», процеси самокритичності. Це дало навіть результати, безсумнівно. Але, все що треба ускладнити- все ще галюцинує. Довгострокова робота з думаючими механіками не видає визначних чистих результатів)
Тобто базові штуки пофіксити технологій нема зараз. Який ще суперінтелект)
піде на полицю лежати поряд з холодним синтезом.

Andrii Sevastianov

Andrii Sevastianov 07.01.2025 15:04

Це дало навіть результати, безсумнівно.

Я тут навіть не впевнений, якщо чесно. Так, результати тестів, на які вони орієнтувалися, покращилися. А взагалі складно казати чи це допомагає. Взагалі, як я бачу, збільшити кількість нейронів та навчальних даних — допомагає. Робити більш складну модель на рівні механік мислення, цензури... Усе це набагато ефективніше передається через ваги нейронів, спроб таких було багато, а от з результатами...

Anton

Gena Kartashevskyy Platform Engineer в MyHeritage 07.01.2025 13:44

Скоріше схоже, OpenAI зосереджується на том, щоб встигнути ще бабла зрубити з інвесторів, поки повністю не загнулися затиснуті між умовним open source Llama/DeepSeek та вертикально інтегрованим Gemini

артем кравченко 07.01.2025 16:29

Думаю навряд чи загнуться. Поки у хороші позиції вираховуючи такі моделі як о3. За місяці можна переходити на наукові відкриття (ліки, технології і т.д). А там вже зовсім інші гроші. Навіть кілька місяців дають велику фору над іншими.

Gena Kartashevskyy

Gena Kartashevskyy Platform Engineer в MyHeritage 07.01.2025 16:37

Ну хз, якось 12 днів OpenAI виглядали тухло на тлі Gemini нового, як і Veo 2 vs Sora. Щодо наукових відкриттів, то Гугл там вже зі своїм опенсорсом, той же AlphaFold 2. У Гугла все своє — дата, залізо, у них більше контролю. Кароч, я ставлю на Гугл, Грок та Ллама, ніж на OpenAI

артем кравченко

артем кравченко 07.01.2025 17:02

відеогенератори думаю трохи не то. Тут скоріше вони з’їдають немалу кількість ресурсів а до суперінтелекту приближають доволі слабо. В Гугл слабше вірю, тому що якось вони не дуже вміють доводити справу до завершення. Ллама сильно відстає. Грок може але там багато залежить від позиції Трампа. Але для цього Маску треба обмежити розвиток Open AI через суди і т.д. Думаю о3 далеко не сама сильна модель яка є у Open AI. Ймовірно іде тестування вже чогось такого типу о3 але вже на базі GPT-5 і із значно кращими можливостями. Якщо модель буде мати високу економічну цінність то ймовірно вона працюватиме спочатку на Open AI (або її партнерів).

Andrii Sevastianov 07.01.2025 17:17

Думаю о3 далеко не сама сильна модель яка є у Open AI. Ймовірно іде тестування вже чогось такого типу о3 але вже на базі GPT-5 і із значно кращими можливостями

Зазвичай вони тестують на користувачах. Сенс щось ховати? Люди перейдуть до конкурентів, от і усе. Тоді твоя модель має бути на готову краще. Архітектура відома, нічого більше там таємничого немає, окрім навчального набору.

артем кравченко 07.01.2025 17:34

Наприклад у вас модель яка допомагає умовно це о1 чи щось краще (напевно і о3). Єдиний спосіб на ній заробити або зібрати дані це дати іншим доступ.
І наприклад є модель яка може сама виконувати певну роботу. наприклад майбутні AI агенти. Або наприклад може щось робити значно краще за інших. Прогнозувати ріст акцій на біржі, робити винаходи і т.д. Тут ви вже дуже подумаєте чи давати її комусь. Бо може хтось навчиться використовувати її краще за вас, навіщо вам конкуренти. І якщо і пустите в загальний доступ то тільки вже тоді коли у вас буде щось краще.

Andrii Sevastianov 08.01.2025 13:49

Бо може хтось навчиться використовувати її краще за вас, навіщо вам конкуренти.

Ті, хто використовує мою нейромережу, є клієнтами, а не конкурентами. Якщо хтось знайде шлях використовувати її краще, то ніхто не завадить нам домовитися, збільшити ціну, ...

Якщо я планую використовувати нейромережу як клієнт самостійно (закрито), то мені не треба займатися піаром. Тоді я скоріше буду казати, що прогрес зупинився.

Gena Kartashevskyy Platform Engineer в MyHeritage 07.01.2025 17:21

Ллама сильно відстає

Ллама це опенсорс, тому їй і не треба бути на тому ж рівні

В Гугл слабше вірю, тому що якось вони не дуже вміють доводити справу до завершення.

Ну то з Gemini 1 так було, на відвали щось зробили. З того часу вже багато чого змінилося, кажуть же що сам Брін повернувся та очолив цей напрямок. Як результат — у OpenAI і близько нічого схожого на Gemini Deep Research чи Project Mariner нема. Побачимо, цей рік буде мегацікавий

OpenAI зосереджує свою увагу над «суперінтелектом»

13 коментарів

Підписатись на коментарі