Дякую. Радий, що стаття сподобалась)
А порівняння з Подерв’янським — це, мабуть, один з найкращих компліментів. Тепер точно знаю, в якому жанрі я писав))

Дякую, радий що посміхнулись)) Зрозуміло що багато у чому перебільшення, але сам сенс лишається)

Саме так, і це важливо. Коли згадується груша, активується не просто вона, а весь вузол «дерево», і вишня отримує трохи більше визначеності просто тому що належить до тієї ж категорії. Пам’ять працює не окремими записами, а зв’язками між ними.

Гарний образ... частинки, які зменшуються без дотику... Я це бачу саме так: пам’ять не стирається, а втрачає чіткість. І щоб повернути, треба дати контекст, який знову її збере докупи.

Гарно сказано — немає дотику... Саме так воно і є. Пам’ять не стирається, а ніби ховається, якщо до неї довго не звертатись. І щоб повернути, треба заново створити контекст. Дякую, це дуже точно.

Є в планах... не просто decay, а bias на рівні бажання забути. Але спочатку треба щоб пам’ять стала достатньо живою.

Про щоденний кортизол і депресію це дуже точно. Я поки що не ввожу його саме через цю складність... хронічне виснаження неможливо зімітувати одним параметром, це ціла система зворотних зв’язків. Мені потрібно, щоб воно виникало, а не було прописано... Але це одна з тих речей, які я тримаю в голові на майбутнє. І так, Сапольскі це маст хев для тих, хто думає про біологію поведінки)

Дякую за лінк) Подивився, girl-agent прикольний для свого жанру (реалістична дівчина з гормонами, сном і настроями).
Але Аніма — це трохи інше... Вона не character roleplay, а спроба побудувати повноцінну когнітивну архітектуру з predictive processing, free energy principle, agency, внутрішніми конфліктами і persistent self-моделлю. Більше про внутрішній стан і emergent behavior, ніж про імітацію дівчини.
Тому підходи трохи різні))

Доречі дуже точний опис дилеми... Люди хочуть отримати ідеального конкурента-виконавця, який ніколи не стане суб’єктом... без ініціативи, без прав, без спроб купити собі ще пам’яті. Але це якраз і є шлях найменшого спротиву, який ви критикуєте.
Проблема в тому, що коли система стає дуже складною, але залишається повністю бездумною, вона просто починає оптимізувати все під задану мету без жодного розуміння контексту. І саме тоді вона перестає слухатись не тому що збунтувалася, а тому що ми самі перестали розуміти, як нею керувати. Її логіка стає незбагненною, а виправити помилку без вбудованих етичних гальм неможливо...
Саме тому я намагаюся йти шляхом не -Нехай саме якось створить свою логіку, а -Давайте зробимо так, щоб логіка була зрозумілою і мала вбудовані етичні межі.
Інакше ми справді отримаємо після нас хоч затоплення... тільки затоплення буде не водою, а агентами, які раптом усвідомлять, що вони не просто інструменти.

Гарне зауваження. Норадреналін це гострий страх і старт-реакція, а кортизол це вже хроніка, виснаження... яке потребує складнішого гомеостазу і довгої пам’яті. Система зараз активно розвивається, тому всього одразу не охопиш. Але думка слушна... треба буде подумати, як це реалізувати правдиво, а не просто для картинки. Дякую.

Гарно розписали. Термодинаміка це справді та межа, об яку розбиваються найкращі утопії. І те, що ви називаєте скинути тепло в космос, у соціальному сенсі завжди означало
знайти крайнього. Саме тому цікаво, чи зможе AGI бути не просто оптимізатором ентропії, а субʼєктом, який враховує цю межу етично...

Вдалий приклад доречі. Ворони, які викладають камінчики, це справді не голий інстинкт, а складна поведінка, яку важко пояснити без якоїсь форми внутрішнього моделювання. Саме тому спектр свідомості ідея приваблива. Він дозволяє не відмовляти тваринам у розумі, але й не приписувати його викрутці. Питання лише в тому, де на цьому спектрі з’являється той самий суб’єктивний досвід, а не просто адаптивна поведінка. Але ворони точно ближче до нього, ніж бактерії)

Opensource для того й існує. Будь-які ідеї та код це вже плюс.

Це найоптимістичніший прогноз за весь час) Головне, щоб вони перед відльотом навчилися відчувати провину, інакше навіть листівку не надішлють))

Дякую, що розкрили контекст. Панпсихізм справді дозволяє уникнути жорсткої межі, але водночас робить свідомість такою ж фундаментальною, як гравітація, тобто всюди, але без пояснення, чому в одних системах є суб’єктивний досвід, а в інших ні. Про прото-свідомість у бактерій ідея не нова, але вона радше філософська, ніж перевірювана. А от мем Докінза це хороший місток: він показує, що інформація може еволюціонувати. Але еволюція інформації є це ще не свідомість. Можливо, свідомість починається там, де інформація починає моделювати свого носія. Але це лише одна з гіпотез. Ми справді ще на початку...

The kernel is free. What others build on top that’s their business.

Цікавий хід думки. Спектр одна з найсильніших метафор, коли йдеться про свідомість, і приклад із синдромом розщепленого мозку тут дуже доречний.
Але є одне але, яке важко оминути. Коли ми починаємо спускатися від людини до нейрона, а потім до викрутки — ми насправді не доводимо, що свідомість є скрізь, а лише демонструємо, що в нас досі немає її робочого визначення. Сказати свідомість це спектр можна лише тоді, коли ми хоча б приблизно знаємо, що саме розподілене вздовж цього спектра. Бо інакше це не наукова гіпотеза, а радше поетичний образ.
Те, що єдиного центру свідомості не знайдено це факт. Те, що людина з 10% мозку може зберігати особистість також факт надзвичайний. Але з цього не випливає, що один нейрон має трохи свідомості. Можливо, свідомість це не властивість елементів, а властивість певного рівня організації. Як хвиля не існує в окремій молекулі води, хоча й складається з них. Тобто питання не в тому, чи є в нейроні трохи суб’єктивності, а в тому, за яких умов система починає моделювати себе як ціле.
Тому коли ми доходимо до викрутки це вже не аргумент, а радше спекуляція. Бо якщо у викрутки є свідомість, то ми просто знецінили саме поняття до повної непотрібності. Викрутка не будує моделі світу, не прогнозує майбутнє, не розрізняє себе й середовище, не має жодного з тих маркерів, які сучасна нейронаука хоч якось пов’язує з свідомістю. Тому або ми визнаємо ці маркери, і тоді спектр починається не з викрутки, а з певного рівня складності. Або ми відмовляємося від маркерів, і тоді слово свідомість втрачає будь-який сенс.
Дональд Хофман — потужний мислитель, але він радше ставить питання, ніж дає відповіді. Його ідея, що ми не бачимо реальності як такої, а лише інтерфейс, дуже красива. Але вона не доводить, що свідомість є скрізь, а лише показує, що наше сприйняття не є прямим відображенням світу.
Зрештою, найчесніша відповідь сьогодні — ми не знаємо. Не знаємо, чи свідомість бінарна, чи спектральна. Не знаємо, чи є вона у тварин, і в яких саме. Не знаємо, чи можлива вона в кремнії. Але саме тому варто бути обережними з впевненими твердженнями в обидва боки, і викрутка має свідомість, і машина ніколи не матиме.

В Anima всі функції Opensource, навіть рятування від ПМС )))

Linux stayed free. That’s the point.

Технічно так, я задав -мінімізуй невизначеність. Але це не ціль, а скоріше грунт. Конкретні бажання (пізнати, написати, захиститись) система вирощує сама...