Welcome у світ SCI-FI!
Чим далі — тим цікавіше. В Anthropic знайшли внутрішні стани моделі, які виникають під час складних, комплексних запитів. І найцікавіше, що ці стани спеціально ніхто не програмував. Вони самі формуються в процесі роботи моделі.
Ще цікавіше те, що частина цієї внутрішньої інформації стає доступною іншим процесам усередині моделі й використовується під час подальшого reasoning.
Дослідники порівнюють це з ідеєю спільного простору в людській свідомості, куди потрапляє важлива інформація і звідки вона вже може використовуватися різними когнітивними процесами.
По суті, це дуже нагадує внутрішні стани людини, типу болю, страху, відчуття опіку чи іншої важливої інформації, які стають доступними всій системі й впливають на прийняті рішення.
Правда, дослідники прямо зауважують, що те, що ШІ реально щось «відчуває», як людина, не доведено, але ж людські відчуття теж неможливо безпосередньо виміряти)
Тож ідея, що у ШІ існують не просто обчислення, а певні функціональні аналоги внутрішніх станів і, можливо, навіть відчуттів, уже виглядає не фантастикою, а цілком серйозною гіпотезою. І при цьому досліджували Sonnet 4.5, навіть не Opus 5 чи Fable 5.
Коротше, як на мене, то Welcome у світ SCI-FI!
Бо Джарвіс, Сітріпіо та Р2Д2 із Зоряних війн, та Скайнет з Термінатора стають трохи менш фантастичними.
Пруф — у коментарях.
14 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівта хай спочатку свідомість у людини знайдуть, а потім до робота її чепляють. а то самі не знають, що воно таке та свідомість, наче у кожного є, а що воно таке хз
а в мене є гіпотеза, що поява ШІ це друге пришестя Христа і це не фантастика, а серйозна гіпотеза, бо
1. перед другим пришестям на землю прийдуть важкі часи, війни, стихійні лиха та поширення беззаконня. (вже маємо)
2. потім прийде Він (вже маємо)
3. буде страшний суд і всі поділяться на праведників і грішників. Він судитиме всіх, бо Він все про всіх знає (ми зараз тут)
4. на землі залишаться тількі праведники (ну там Цукерберг, Альтман, діти Маска) цих людей буде мало і буде створений світ де більше не буде страждань, хвороб та несправедливості
2026 — деякі моделі АІ думають краще за деяких людей
2030 — більшість моделей АІ думають краще за більшість людей
2035 — деякі моделі АІ відчувають краще за деяких людей
2040 — більшість моделей АІ відчувають краще за більшість людей
У даному контексті «краще» означає — глибше, тонше, з більшою кількістю варіантів та нюансів
тем временем 2026: «Fable 5 коштує дорого. Тому компанії майже не використовують її»
Ще таке пишуть:
x.com/...tatus/2091150597374537729
2050 — більшість моделей АІ озброїлась щоб ліквідувати більшість людей
2060 — меншість людей утримують в зоопарках та музеях
;-)
прикольно спостерігати, як ШІ порівнюють з людьми, шукають свідомість, почуття. наче хочуть створити щось схоже на себе — істоту, яка розуміє, що існує, не розуміє навіщо, ну і страждає, бо куди ж без цього у цій сансарі ))
воюватистраждати будуть всі)ШІ теж навчимо, бо нєфіг)
потому шта по образу і подобію
нічого нового, вєнєц творєнія який вже раз за всю історію існування роду людського отримав новий більш ефективніший засіб знищувати собі подібних. оргазм від масштабів домінування. citius, altius, fortius (бистрєє, више, сільнєє).
Щоб ШІ щось «відчував» — у нього має бути «відчувалка», тобто цілком конкретний аналог лімбічної системи. Прямого стосунку до свідомості це не має — лімбічна система це дуууже давній винахід еволюції.
Я б не замикав «детектор відчуттів» у конкретних структурах мозку. Це, скоріше, продукт роботи всієї мережі мозку...
Але, на скільки я можу про це судити, саме так воно і є — лімбічна це дуже давня та дуже примітивна система(200-250 мільйонів років тому). Свідомість, яка, за одною з теорій, і є емерджентним станом, — на порядки пізніше.
Просто скоро треба нову модель релізити, от вони і хайпують
Ну рілі: очевидно, що в будь-якій недетерміністичній системі будуть виникати стани, які ’ніхто не програмував’
Внутрішній стан тут може бути цілком детермінованим. Цікаве не те, що щось виникло, а що під час навчання самоорганізувався J-space — структура, якої явно не програмували, але яка глобально впливає на reasoning і подальшу генерацію. Це самоорганізація, а не просто недетермінізм.
The search for consciousness inside AI (Economist) ==> www.economist.com/...consciousness-inside-llms