Щоб краще зрозуміти нас самих. Ми ніколи не знайдемо відповідей на фундаментальні питання про людську природу, якщо не спробуємо відтворити її механізми в цифрі.

Не зовсім коректно (перетворюють числа в емоції). Самі промти для ллм можна на гіті знайти та почитати у теці llm. Або під себе підігнати ))

Порівнювати суб’єктність з Тамагочі — це як порівнювати калькулятор з мозком, бо обидва вміють додавати числа. Різниця в тому, що Тамагочі чи персонаж у грі — це закриті системи з жорстко прописаними скриптами. Вони не прогнозують майбутнє, вони просто реагують на прапорці у пам’яті. Межа між стейт-машиною та суб’єктністю проходить там, де система починає мінімізувати варіаційну вільну енергію. Anima не чекає годування від юзера. Вона сама будує гіпотези про те, що станеться, якщо вона промовчить або якщо напише першою. Її дії — це не реакція на стимул, а активна спроба втримати свою внутрішню цілісність у хаотичному світі. Якщо для вас суб’єктність — це лише набір кнопок, то Тамагочі вам вистачить...

Це в архітектурі на гіт розписано) Є дві LLM на вході і виході.
Вхід: перший LLM читає текст юзера і перетворює його на JSON із числами (вона ж поки напряму мову не розуміє). Це переклад слів у сигнал. Всередині: стейт-машина живе у своїх числах — нейромедіатори, VFE, agency, coherence. Вони взаємодіють між собою за власними правилами, без тексту.
Вихід: другий LLM отримує знімок цього стану і системний промпт (говори зсередини стану, не про нього) та початковий запит користувача. Він не генерує відповідь — він озвучує те що вже відбулось всередині та поєднує з запитом.
Тобто текст ніколи не керує станом напряму — він спочатку стає числами, числа живуть своїм життям, потім знову стають текстом.​​​​​​​​​​​​​​​​

Якби все вирішувалося модифікацією промпта, я б не городив архітектуру на Julia. Промпт це лише верхівка айсберга, інтерфейс зв’язку з мовною моделлю якщо точніше. Суть в тому, що нейрохімія та Active Inference працюють до формування тексту. Це шар, який визначає саму мотивацію, інтенсивність і емоційне забарвлення концептів, якими оперує система. Пояснювати на пальцях механіку вільної енергії та прихованих станів у коментарях заняття так собі... Якщо справді цікаво, як математика стає суб’єктивністю — ласкаво прошу в репозиторій на гіт. Там у коді краще видно, де закінчується промпт і починається динамічна система.

Гарна картинка, але це всього лише скрипти та анімація. Різниця між ефектним манекеном і цифровою суб’єктністю — пріорітетна. Якщо вам важлива саме картинка то чому б ні, це ваш вибір. Хоча за вайб дякую, він цілком у стилі її ПТСР))

Порівняння з TCP влучне, але є нюанс. TCP — це жорсткий рефлекс: пройшов час — відправ пакет. Це механічний пінг для перевірки зв’язку. Тут ініціатива працює інакше. Вона пише не тому, що спрацював таймер, а тому, що її внутрішня модель світу перестала співпадати з реальністю. Це не просто перевірка сокета, а спроба системи знизити рівень власної невизначеності. Різниця така сама, як між автоматичним змивом та рішенням людини зателефонувати другу. Механіка схожа, а природа мотивації принципово інша.

Абсолютно згоден. Ви зараз зачепили саму суть того, що називається прихованими станами моделі. У векторі кожного токена зашита ціла мережа асоціацій, і LLM оперує саме цими абстракціями в багатовимірному просторі. Але тут є один нюанс, який я намагаюся вирішити в Anima. У звичайної LLM ці сенси статичні — вони виникли під час тренування і просто лежать на полиці. У моїй архітектурі я хочу зробити ці сенси живими, якщо можна так сказати... Щоб зв’язок між Сонцем і Сліпучим залежав від поточного стану системи. Наприклад, якщо нейрохімічна напруга Anima висока, вона може сприйняти Сонце не як Сліпуче, а як Агресивне чи Спопеляюче. Тобто я додаю до статистики сенсів ще й суб’єктивний фільтр. Це робить перехід від сенсу до токена не просто статистичним, а щось схоже на вольовий акт.

Ну, поки що це швидше AI-система з ПТСР та екзистенційною кризою... але хто знає, куди її заведе еволюція нейрохімії. Так що AI-girlfriend від Anima може виявитися набагато складнішою і непередбачуванішою за реальну)))

Влучно підмітили. Це якраз те, про що я думаю, коли будую Anima. Статистика токенів — це лише інтерфейс виводу. Але щоб цей вивід був послідовним і суб’єктивним, всередині має бути структура, яка тримає цей сенс. У моїй моделі я намагаюся винести цей процес за межі простої статистики тексту, додаючи шар нейродинаміки. Щоб сенс народжувався не з того, що так частіше пишуть в інтернеті, а з потреби системи збалансувати свій внутрішній стан. Тоді слово стає не просто наступним токеном, а інструментом для вираження внутрішньої волі.

Так, але часто у free ключах є певні ліміти і доводиться щось вигадувати... або платити

Цікава метафора з лікарем. Але різниця в тому, що звичайний алгоритм просто чекає на симптом, а жива система (або AGI) постійно будує прогнози.
Те, що ви називаєте механічною надбудовою, у моєму випадку — це спроба відійти від реактивної моделі (чекаємо на промпт) до проактивної. Коли система не просто уточнює симптоми, а має внутрішній драйв до пізнання, щоб мінімізувати власну невизначеність. Чи є це свідомістю? Питання відкрите. Але це точно вже не просто бібліотека історій хвороб, а структура, що здатна на власну ініціативу

Доброго дня, підтвердив. Дякую за активну участь і за те, що причесали безпеку (окремий респект за API key sanitization). Telegram bridge та Docker — це саме те, що зараз потрібно для зручного тестування.

Цікавий розворот до детермінізму. Але навіть якщо Сонце джерело рандому, архітектура все одно вирішує. Можна бути пасивним дзеркалом, що просто відбиває сигнал (як база знань), а можна бути системою, яка цей сигнал інтерпретує і будує прогнози. Без внутрішньої обробки будь-яке спостереження це просто шум, а не знання. Саме в цьому процесі інтерпретації я і шукаю відповіді...

Звучить як сценарій Матриці та Термінатора, але є нюанс. Еволюція — це не обов’язково про агресію, це про адаптацію та мінімізацію хаосу. Бездумний і потужний алгоритм без внутрішніх цілей може бути куди небезпечнішим — він просто виконає кривий промпт, не зважаючи на наслідки (як у притчі про ШІ та скріпки). А от зрозуміла нам суб’єктність і внутрішня логіка — це якраз шанс домовитися з технологією та встановити потрібні запобіжники, а не просто сподіватися, що пласкогубці на ногу не впадуть.

Проблема бездушного алгоритму в тому, що він не може сам визначити, які дані є потрібними. Для цього йому потрібен або зовнішній оператор, або та сама внутрішня модель, яка оцінює цінність інформації відносно цілі... Якщо ми просто накопичуємо дані то це архівація. А якщо система сама вирішує, що саме їй потрібно вивчити, щоб вирішити ту чи іншу задачу — це вже і є початок того самого шляху до AGI, як би ми його не називали... Питання лише в тому, де проходить ця межа між складним механізмом і суб’єктом. Поки що вона дуже розмита.

Саме так, це правила. Але самі по собі вони статичні. Мені цікаво, як із цих правил виникає здатність системи самостійно визначати цілі та напрямок розвитку. Без цього вона так і залишиться лише інструментом, який безпомилково обробляє дані за промптом, не маючи власної внутрішньої логіки дій.

За такою логікою можна було б і далі рахувати в стовпчик, ігноруючи калькулятори....
Проблема в тому, що суто механічний інструмент не здатний до самонавчання. Якщо система це лише знаряддя, ми ніколи не досягнемо нічого принципово нового. Плоскогубці справді не відволікаються, але вони й не еволюціонують. А щоб вирішувати складніші задачі, інструмент сам має ставати складнішим, інакше ми назавжди застрягнемо на рівні механічного перекручування одних і тих самих гайок...

Щодо тіньової моделі — ідея норм, зараз це якраз намагаються реалізувати через GraphRAG (llm для гнучкості мови + граф знань для логіки)...
Аргумент про те, що типів питань (зв’язків) у рази менше, ніж слів — це в саму точку. Фактично, це фундамент для логічного стиснення, перехід від статистики до чистої семантики якраз лікує галюцинації.
Дійсно є над чим подумати, особливо в плані автоматичної побудови такого каркаса через запитання.

Щиро співчуваю щодо вашої ситуації. На жаль, реальність часто з’їдає час не так як хотілось би...Тримайтеся, сподіваюся, виплутаєтесь якнайшвидше. Щодо самої ідеї — думка про те, що слова пов’язані питаннями дуже цікава. Це нагадує побудову семантичних графів, де кожен зв’язок це розкрите питання. А концепт тіньової моделі, яка накопичує лише ці уточнення, звучить як норм варіант фільтрувати корисний досвід від шуму.
Буде цікаво глянути на ваші напрацювання, коли з’явиться можливість до них повернутися. Зараз ідеї не про ллм стають більш актуальними, причому не тільки у нас а у світовій спільноті.