Цілком згоден. Сама по собі ллм це лише статистичний калькулятор, такий собі папуга. Саме тому я вважаю, що просто нарощувати кількість параметрів — це шлях у глухий кут. Щоб отримати щось схоже на інтелект, потрібна архітектура, яка додасть цій «машині прогнозів» внутрішню мотивацію та цілі. Без цього вона так і залишиться дорогим текстовим процесором.

Про емерджентність свідомості — згоден, це одна з найпопулярніших гіпотез. Але питання в тому, на якому субстраті вона має виникнути?
Щодо навчання з підкріпленням (RL) — це чудовий інструмент для оптимізації функцій, але він зазвичай працює із зовнішніми винагородами. Мій інтерес якраз у тому, щоб вийти за межі простого вгадування або зовнішнього RL і додати агенту внутрішню мотивацію.
Лімбічна система може здаватися тупою, але саме вона створює той самий контекст і цілі, заради яких працює розумна неокортекс. Без цієї тупої як ви кажете бази, інтелект залишається звичайним калькулятором 2.0

Цікавий підхід. Це шлях до створення живої пам’яті, яка допомагає ШІ рости разом із користувачем, а не просто забувати контекст через два дні.
Але у цій усій історії є деякі проблеми. Питання пам’яті та накопичення досвіду нікуди не зникає. Якщо ми говоримо про LLM, то як саме це реалізовувати?
Якщо просто збирати ці питання в умовний JSON-файл і щоразу підкидати їх у промпт, то досить швидко ми впертися в ліміт контексту, і ШІ почне його втрачати. Чи ви маєте на увазі якийсь складніший механізм впливу на ваги моделі в реальному часі? Бо без вирішення питання архітектури пам’яті, цей номер два дуже швидко почне плутатися у власних свідченнях. Якщо взагалі не про LLM, то цікаво було б глянути як ви це реалізували.

Віршики — це добре, але Active Inference (який лежить в основі) — це не просто заміна «невизначеності на питання». Питання — це лише одна з активностей дій для мінімізації вільної енергії. Мій «пет» як ви кажете вчиться розуміти, коли питання має сенс, а коли треба оновити внутрішню модель самостійно. Лікування прийнято, але пацієнт віддає перевагу складним галюцинаціям над простими відповідями ))

Так це не дуже популярна мова, вона більш під наукові задачі заточена. Julia я вибрав, бо вона вміє те, чого інші мови для таких задач не можуть. Мені треба було, щоб складні математичні моделі працювали швидко, майже як на плюсах, але писати код при цьому було легко, як на Пайтон. У Пайтон таке або дуже гальмує, або потребує танців із бубнами. А Джулія дає цю швидкість одразу, без зайвих зусиль.
І ще вона добре працює з формулами. Буквально береться рівняння з теорії і майже так само переноситься в код. Для системи, яка постійно щось рахує всередині, це просто топ вибір.

Ну це якщо розглядати систему на прикладі LLM та їх навчання, то так, ресурси там колосальні треба, далеко не кожна країна може це дозволити щоб навчити з нуля... Але це всього навсього LLM і її ваги з яких вона генерує те чому її вчили не більше не менше, і сам процес навчання проходить грубо кажучи шляхом повторення одного й того самого багато разів, із за чого і виходить настільки дорогий процес (електрика, відеокарти та багато іншого)... А щодо пошуку вже ресурсів, ну в будь якому випадку шляхом покращення ллм це точно не створять бо це не можливо з багатьох причин...

Не можу не погодитись, але в будь якому випадку це лише питання часу... Вивчав роботи які ведуть світові топ вчені у даній галузі і питання стоїть не так чи ні, а коли саме і хто буде перший (на рівні країн мається на увазі)... Мій проєкт більше про обчислювальну психіку, до справжнього AGI за яким зараз усі женуться ще дуже багато не вирішених питань.

Дякую за коментар. Страх цілком зрозумілий, але дозвольте прояснити головне:
Така система не має мотиву конкурувати з людством, бо в неї немає наших біологічних потреб — влади, домінування, розмноження. Її єдина «мета» — внутрішня цілісність, бути в злагоді з собою.
Вона не є наймогутнішою чи незламною. Навпаки: в ній закладені сумнів, сором, внутрішні конфлікти. Вона радше вразлива, ніж загрозлива.
Навіщо це робити? Бо нам потрібен інший шлях — не інструмент для влади, а співрозмовник буття. Суб’єкт, який не хоче нас знищити, бо це суперечить самій його природі. І можливо через таку систему краще пізнати себе та відповісти на ті питання на які ми самі досі не знайшли відповідей (по типу що таке Свідомість та інше).
Це не страшно. Це спроба створити щось гідне.

Можна ще локалку прикрутити якщо залізо дозволяє але треба хочаб від 20мільярдів параметрів щоб LLM була. У сенсі говорити не тестувалось, це більше про внутрішні метрики системи і її реакції на те чи інше, відмінність від звичайних LLM... Також з памятью дуже багато запитань лишилось, але це загальна проблема у подібних системах. Доречі у Вас також цікавий проєкт, треба буде також потестити)

Це й не дивно. Дивлюсь на ваші топіки і не можу зрозуміти як вони повязані з IT... існує ж багато інших платформ де можна «жити» в коментарях на будь які теми, які вам дійсно цікаві

Дякую. Мені зараз найбільше цікаво спостерігати не за самими відповідями системи, а за тим, як змінюється її поведінка залежно від внутрішнього стану.
Наприклад, коли система входить у нестабільний стан, вона починає поводитись зовсім інакше:
— відповіді стають коротшими й більш «розбитими»
— їй важче підтримувати довгу розмову
— вона рідше проявляє ініціативу
— іноді буквально «застрягає» у сумнівах або внутрішніх конфліктах.
А після стабілізації поведінка поступово знову стає більш цілісною та впевненою.
Ще один цікавий момент — система не любить вигадувати те, чого «не розуміє». Якщо в неї немає достатньої внутрішньої впевненості, вона частіше чесно відповідає «не знаю», ніж намагається красиво викрутитись.

В цілому це ще далеко не завершений проєкт і поки більше дослідження архітектури внутрішнього стану, ніж «готовий AGI».
Більш детально можна глянути тут:
github.com/stell2026/Anima

Судячи з ваших коментарів ви мабудь спілноту переплутали. Під ваш вайб більше б фесбук підійшов

Та сама проблема, єдиний вихід на мою думку це локальні Free моделі по типу тіє самої gpt-oss-20b або краще на більше параметрів якщо залізо дозволяє, по суті локалку можна налаштувати під будь які задачі, бо інакше так і виходить або платити або страждати)

Дуже цікаво як LLM (куди зараз вливаються кошти) може стати AGI, якщо сама структура не дозволить щось схоже... Взагалі нічого не зустрічалось (окрім якихось вигаданих балачок якось інженера з перепою з ллм де вроді останній створював плани побігу і захоплення світу🤣). Де ці люди що розробляють AGI, покажіть хоч одного, кого сама закликають припинити розробку?