Care.Card UX Contest: React Native + UX Design for better healthcare. Join Now & Win 100 000 SOLVE!
×Закрыть

Дослідник нейромереж — про півсотлітню історію штучного інтелекту, свідомість АІ та розвиток людства

Олександр Різник — доктор технічних наук, завідувач відділу нейротехнологій Інституту проблем математичних машин і систем НАН України і піонер нейромереж, якими займається ще з початку 60-х років минулого століття.

Олександр — спец з гідроакустики. У наукових колах світового масштабу він відомий завдяки глибоким дослідженням у темі комунікації дельфінів та дешифрування їхньої мови. У Радянському Союзі працював в «поштовому ящику», секретному підприємстві оборонного напрямку, де йому навіть доводилось шукати під кригою північного полюсу субмарини Сполучених Штатів. Паралельно він займався нейротехнологіями та штучним інтелектом, а в очолюваній ним лабораторії з гідробіоніки було створено перші в Європі експериментальні перцептрони.

У голові вченого — півстолітня картина розвитку нейронних мереж, штучного інтелекту та суперкомп’ютерів. Чому в розвитку нейромереж немає особливих результатів ще з минулого століття, а захоплення темою спаде в найближчий час, чи може штучний інтелект мати свідомість та як комп’ютери вже керують людьми — Олександр Різник розповів в інтерв’ю для DOU.

Надійні vs безнадійні

— Як ви вперше познайомились з нейронними мережами?

На початку 60-х в пресі почали з’являтись публікації про машини, які здатні до самонавчання. Я цим зацікавився. Згодом спало на думку, чому б не використати ці машини в гідроакустиці та як це зробити. Протягом 1969-71 рр. в лабораторії гідробіоніки Київського НДІ гідроприладів, яку я очолював, було створено перші в Європі експериментальні перцептрони АДАМ (адаптивні динамічні асоціативні моделі), призначені для досліджень з навчання розпізнаванню складних звукових сигналів. Один з них — Адам-А — мав 16 асоціативних елементів (нейронів), побудованих з використанням електрохімічних елементів пам’яті (мемісторів). Інший — Адам-Д представляв собою перший в світі повністю цифровий нейроком’ютер, що складався з 512 асоціативних елементів, кожен з яких мав 8 входів. Завдяки гнучкій системі комутації ця модель дозволяла формувати складні багатошарові нейронні мережі. Для вводу звукових сигналів використовувалась електронна модель внутрішнього вуха людини, яка забезпечувала перетворення звуків у послідовності 64-мірних векторів, що відтворювали реакції на вході слухового нерву.

В 60-х ми вже систематично працювали в цьому напрямку. Вважаю, що ми тоді все ж змогли наздогнати американців. Але у владної верхівки, яка керувала грошовими потоками, була інша думка щодо суті нашої діяльності. Вона заморозила роботу. Правда, ця тенденція була по всьому світу. Навіть у США були припинені великі дослідження по нейрокомп’ютерах. Захоплення цією темою згасло вперше. Усього таких загасань було два.

— З чим це було пов’язано вперше?

Десь з кінця 60-х й 15 років по тому роботи в напрямку нейронних мереж та штучного інтелекту вважались безперспективними. Фундатор штучного інтелекту Марвін Мінський у співавторстві з Сеймуром Папертом в 1969 році написав книжку під назвою «Перцептрони». Перцептрон — це назва першого прототипу нейромережі, яка була запропонована американським дослідником Френком Розенблатом в 1957 році. Це була перша нейромережа, яка здатна навчатись будь-чому. Перцепція — штука, яка може пристосовуватись. У Розенблата нейрокомп’ютер був заснований на знанні того, як побудована нервова клітина у людини. Він вважав, що за таким принципом можна конструювати обчислювальні машини. Їх застосовували для розпізнавання звуків, зображень та іншого. Лише в Києві тоді було близько п’яти організацій, в яких розробники створювали моделі пристроїв для розпізнавання чого-небудь. Наша група була найсильніша.

— Чому тоді згодом почався занепад?

Марвін Мінський розчарувався в своїх дослідженнях, що спричинило довготривалий спад зацікавлення в цій тематиці. Ті, хто займався моделюванням біологічних процесів, нейронними мережами, мовою дельфінів, штучним інтелектом, потрапили під скорочення, як я, й залишились без роботи.

Не було розроблено математичних методів, які б пояснювали, чому перцептрон, що працює як нервова клітина, не здатен навчитись робити багато задач. Тобто не було математичної теорії, яка б могла довести, що це правильні методи. Дефіцит теоретичного обґрунтування дав можливість Мінському сказати, що насправді має все бути зовсім інакше.

Я був відсторонений від робіт приблизно на двадцять років. У 80-му році я перейшов до Інституту кібернетики. Тоді якраз створювався радянський суперкомп’ютер, під який зробили спеціальну лабораторію. Там займались керуванням, системи в якій було близько 500 різних обчислень, і всі вони повинні були працювати в унісон, як єдиний мозок. Мене якраз туди запросили цим займатись.

— Це вже було ближче до початку нового життя в галузі. Як ви сприйняли відродження після одного покоління застою?

Так. Інформація про відродження мене вразила. Це було пов’язано з американським вченим Джоном Хопфілдом. Він розробляв способи захисту очей солдатів, яких уражав промінь з лазерної зброї. Ця тема була популярною, оскільки спінове скло представляло собою квантову систему, що мала кілька стабільних станів і миттєво змінювала прозорість, якщо промінь лазеру діставав деякої її ділянки. Геніальним було дійти висновку, що пов’язані між собою нейрони діють як молекули спінового скла, а їхні стабільні стани є аналогом асоціативної пам’яті мозку.

Оскільки Хопфілд був непоганим математиком, він знайшов рівняння, яке прописує поведінку групи цих нейронів. Це було відкриття, яке повернуло увагу світової спільноти до нейронних мереж, які тепер видавались не такими даремними, як про це свого часу казав Мінський. Він зумів описати колективну поведінку великої кількості нейронів: як в них формується пам’ять, яким чином в цій пам’яті залишається різна інформація та як її відтворювати. Якщо нейронна мережа знаходить щось схоже на те, що вона вже пам’ятала, у неї миттєво відновлюється інформація по всіх каналах. Це і є асоціація. Коли ми згадуємо щось за певними аналогіями, у нас відтворюється весь образ. Хопфілд зміг весь цей механізм описати, чим повернув довіру до нейронних мереж — почався нейрокомп’ютерний бум.

До Радянського Союзу він дійшов десь під кінець 80-х років. У 1989 році я поїхав у тодішній Ленінград на всесоюзну конференцію нейронників, які ще залишилися в галузі. Ми обмінювались думками й міркували, що робити з програмами зі створення нейрокомп’ютерів, бо в Штатах вже кипіла робота й виділяли мільярдне фінансування. За важливістю вона наближався до проекту «Мангеттен» зі створення атомної бомби. Тоді вважали, що нейрокомп’ютери, які здатні до навчання, можуть вирішити проблему нестачі програмістів.

— Як далі розвивалась тема нейронних мереж?

Зі свого досвіду скажу, що захоплення нейромережам — це періодичний процес, який відбувається хвилями. В середині 90-х стало зрозуміло, що ми можемо робити непогані нейрокомп’ютери. Але надії на те, що вони здатні вирішувати завдання на рівні людей, були перебільшені, адже вони навчаються не так добре й ефективно, як всі очікували. Почалась друга хвиля спаду інтересу до цієї галузі й розмови, мовляв, нейромережі — це невдала ідея, яка потребує багато грошей, а результат — не такий, як треба.

Лише в 2007 році група дослідників з Канади зробила прорив, застосувавши програму з дуже великою кількістю нейронів. Вона показувала рекордні результати за якістю запам’ятовування та розпізнавання даних. З того часу почалась нова ера — deep learning.

1983 р. Інститут кібернетики НАН України. Проект багатопроцесорного суперкомп’ютера ЄС-1766. Бесіда з головним конструктором проекту, доктором технічних наук С. Б. Погребинським

Відсутність результатів та взаємодія зі Всесвітом

— Ви читаєте зарубіжну літературу на тему штучного інтелекту та нейронних мереж, слідкуєте за останніми тенденціями. Що з останніх досягнень в цій сфері вас вразило?

Відсутність результатів.

— А проекція облич на інших людей, «творчість» нейромереж та багато іншого?

Все це було і в 90-х роках у перших нейрокомп’ютерах. Не можна сказати, що сьогодні це принципові досягнення. Робите сильніше фінансове вливання й збільшуєте потужності — вирішуєте більше завдань. Проблема в іншому. Має бути інший принцип роботи з цими даними. З глибокими нейронними мережами проблема в тому, що зараз здешевшав обчислювальний ресурс — обсяг пам’яті на комп’ютерах за останні десять років виріс у десятки разів. Все те, що було недоступним взагалі десять років тому, зараз є у вашому мобільному телефоні. Але не з’являється нова якість.

З великими даними щось відбувається не так, як ми собі уявляли. Наші моделі, методи й уся наука базується на антропному принципі. Вважається, що всі наші дії — це правильно, в цьому напрямку треба рухатись, і тільки це є добре. Решта — нікому непотрібно. У Радянському Союзі вимальовувалась теза, що нам не потрібно чекати милості від природи, ми маємо підкоряти, захоплювати, завойовувати, наче ми завжди праві. Але виявилось, що жива природа навколо нас стає все слабшою тоді, як ми є «праві». Всі техногенні катастрофи — результат нашої діяльності. Люди часто не враховують, що мають працювати в межах, які дозволяє природа.

Сьогодні суспільство оперує набагато більшою кількістю інформації, ніж реально може осягнути людина. Ніхто не знає усього, ми знаємо лише якусь частину від того, що потрібно знати. Наприклад, мобільний телефон — забавка, яка коштує певну кількість грошей. Але насправді — це досвід тисяч людей й матеріалізована наука. Люди залежні від оточення й вважають себе вершиною всього й такими, яким повинно усе підкорятись. А ось звідки взялось це життя, як воно функціонує й чому?

— Ви скептик?

Я не дивлюсь скептично. Я дивлюсь активно. Моє завдання — зрозуміти, що відбувається в нейронних мережах: чому вони діють саме так, чому в нас такі результати, а не інші. Багато людей приймають будь-який результат, наче це добре й так повинно бути. А коли повторюють те саме й отримують інший результат, то кажуть, мовляв, яка прикрість.

— Чого нейронні мережі не зможуть зробити найближчим часом?

Відтворити реальний людський інтелект, тобто свідомість. Є певні обмеження. У 1945-1946 роках Норберт Вінер придумав назву «кібернетика». За його означенням — це управління технічними, діалогічними та соціальними системами. Цей підхід дуже був схожий на загальну теорію систем, яка розроблялась багатьма вченими. Вони передусім приділяли велику увагу процесам управління, зворотного зв’язку. На жаль, послідовники кібернетики звернули увагу лише на одну сторону — методи обчислень. Ви маєте передбачити результати свого управління. Інакше можуть бути погані наслідки. Проблема в тому, що цей зворотній зв’язок, з яким ми пов’язані, ставить нас в залежність від оточення. А наше оточення яке? Ми є маленькою частинкою Всесвіту.

— Що ви маєте на увазі?

Те, що фундаментальні поняття, на яких ми базуємось, є зовсім не такими, як вони в природі виглядають. Наприклад поняття простору-часу. Вони виникло завдяки Айнштайну та іншим науковцям ХХ століття. Виявилось, що ми існуємо не в такому тривимірному світі, який бачимо. Є ще час. А можливо, й інші виміри, які поки не можемо осягнути. Все, що відбувається й всі наші дії, — елемент певного безперервного процесу. А отже, взаємодіючи з усім, маємо розраховувати, як ми впливаємо на те, що нас оточує. Це й про атмосферу, зміну погоди, катаклізми, клімат, озонові діри та інше. В той же час ми маємо доступ до величезної бази даних, наприклад, Google, адже тепер не треба шукати енциклопедію Брокгауза і Єфрона в бібліотеці, бо у вас набагато потужніша є в Інтернеті — це майже безмежний досвід.

— Згадалось, у фільмі «Людина-павук» була фраза: «Чим більша сила, тим більше відповідальність».

Саме так. Вона, мабуть, повинна проектуватись на гармонію у світі. Візьмемо навіть наш парламент. Думаєте, там щось відбувається з глобального кута зору й на перспективу людства?

Ми всі є членами дуже потужної системи, яку не розуміємо. Тому ми схильні підкорятись тим, хто представляє цю загальну систему — держава, корпорація тощо. Ми всі стаємо рабами цієї системи. Це є головна загроза сьогоднішньої ситуації. Віра в те, що штучний інтелект щось зробить. Нічого він не зробить. Він може повторювати наш власний інтелект, дуже непогано виконувати деякі завдання, дещо робить гірше, але в нього немає цілісного сприйняття і можливості робити щось своє.

Що про себе думає AI та природа інтелекту

— Що ви думаєте про робота Софію?

Чудовий робот. Вона дуже добре може імітувати людську поведінку, непогано розпізнає звуки мови, можливо, вона навіть розпізнає обличчя.

Все залежить від того, що ми називаємо інтелектом. Якщо інтелект — це вміння імітувати людську діяльність, тоді так, це штучний інтелект. В дечому він навіть кращий за нас. Але є одна річ. Що цей інтелект буде казати про самого себе й ким себе вважатиме, якщо ми наділимо його свідомістю?

— І ким він може себе вважати?

А це проблема. Усе, що ми робимо, має бути прийнятне для світу. Інакше ми не виживемо. Якщо створимо машину, яка так чинитиме й так житиме, тоді це чудово. Можливо, вона претендуватиме на безсмертя. Це теж непросте питання.

Тривалий час здавалось, що людина створює ефективний інструмент для обробки інтелектуальної інформації. Зараз потужність комп’ютерів і всієї галузі, зокрема з появою хмарних обчислень, вийшли на той рівень, що людина не здатна контролювати зміст діяльності, яку виконують комп’ютери. Системи штучного інтелекту можуть непогано виконувати дії, що виконує людина. Але вони не мають мети.

Ми, люди, існуємо, щоб бути більш досконалими. У нас є конкуренція, ми намагаємось бути кращими. Думаю, ця здатність поступово переходить від розробників до технічних пристроїв, яких ми наділяємо інтелектом. Подальший розвиток техніки складає враження, що не люди планують розвиток комп’ютерів, а комп’ютери роблять це самі. Тобто світ перейшов в стадію, коли інтелект від людини переходить до матеріального комп’ютера. Ці комп’ютери вдосконалюються, використовуючи людство як інструмент, що дозволяє їм розвиватись далі.

Те, що Софія та інші антропоподібні комп’ютери ззовні нагадують людину, не означає, що вони думають, як людина. А в них в голові вже сидять досить потужні комп’ютери. Ми дуже залежні від них, тому вимушені їх виробляти. Незабаром настане час, думаю, за одне покоління, коли виробництво комп’ютерів відбуватиметься зовсім без людей. І навіть проектувати нові моделі теж будуть самі машини. Що ця автоматизована індустрія матиме на меті й до чого рухатиметься — гадки не маю.

— Про що це говорить, на вашу думку?

Думаю, поступово ми самі стаємо рабами свого інтелекту. Наші гібридні війни — це якраз продукт втрати контролю. Коли ніякі моральні принципи вже не є перепоною, щоб робити будь-що.

— Ви написали статтю «Про природу інтелекту». Що ви вважаєте інтелектом?

Це надто складна річ для однозначного визначення. Потоки нейронних імпульсів у мозку перетворюються на звуки мови, зображення. Ми їх сприймаємо відповідними органами чуття. Всі ми разом обмінюємось між собою інформацією. Фактично кожен з нас є такою собі клітиною, яка взаємодіє з іншими такими ж клітинами, й таким чином спільною роботою всіх мізків щось створюється. Це ми завантажуємо у віртуальна реальність — наше досвід, наше життя. Все це разом утворює якусь велику спільноту та є втіленням того інтелекту.

А взагалі не знаю, навіщо природі було вигадувати життя. Невдовзі щось точно має відбутись.

— Що ви маєте на увазі?

Через простір-час протікає нескінченний потік енергії. У ньому можуть виникати турбулентності, які ми сприймаємо як матеріальний світ. Тобто ми самі. Цей процес призвів до утворення планет, появи життя, інтелекту й нарешті — комп’ютеризованого штучного інтелекту. Зараз іде процес передачі інформації від біологічного носія — людей, до технічного — комп’ютерів. Ми спостерігаємо за цим процесом, але ми самі є продуктом цього процесу. Ми не можемо ззовні подивитись на процес. Та й не маємо цілісної картини світу. Як воно буде продовжуватись — ніхто не знає.

А може, ми визнаємо, що еволюція людини закінчилась, весь наш розум віддамо комп’ютеру, створимо супермегакомп’ютер, який сам відтворюється, й нехай собі існує. А може, з’явиться якась така машина, яка захоче позбутися людей, бо вони їй здаватимуться загрозою свого існування. Все може бути.

Що саме буде — сказати неможливо. Але існує вірогідність, що протягом найближчих 1000 років Земля неодмінно зіткнеться з якимось астероїдом. Маск хоче переселити людей на Марс. Але Марс нічим не кращий.

Словом, ми не знаємо, чим закінчиться той Всесвіт, в якому ми існуємо. Завдяки зокрема Гокінгу та іншим науковцям, ми знаємо про це набагато більше. Проте я дивлюся, які наші можливості зараз, й можу сказати, що ми починаємо гратися в дуже ризиковані ігри. Атомної зброї достатньо для того, щоб зникло все живе з нашої планети.

Працювати день-ніч протягом кількох років та нові дисципліни

— Ви випали з теми на двадцять років. Минуло ціле покоління. Як це — повертатись в тему через стільки років?

По суті, нам довелося навчатися заново. Десь у 1990-му році я був на конференції, де міркували, мовляв, що робити з нейрокомп’ютерами. Увесь світ тоді почав грандіозні програми у цій темі, а в Союзі так і не розібрались, з чим їдять нейрокомп’ютери.

На щастя, на цій конференції був учасник з США. Я у нього випросив роботи з конференції в Сан-Дієго 1986 року. Я зробив копії, й ми всім відділом їх вивчали, щоб надолужити те, що втратили. Десь до 1995 року ми це все освоїли. Я нарешті закінчив докторську дисертацію, яка була готова ще з початку 70-х років. Коли у тебе все це є і тебе викидають... Можете уявити, як це пережити. Не підберу слова. Ми були на передку і одразу стали позаду. Наче повернулись з того світу.

Як перенавчатись? Берете літературу й працюєте день-ніч протягом кількох років. Так і наздоганяли.

Пам’ятаю, читав студентам КПІ лекції й відчував себе динозавром. Це цікаво — бачити всю цю історію й сприймати її інакше, ніж свіжі люди, які приходять до вже готового.

Важливо відвідувати різні наукові конференції. Коли туди потрапляєш, то відчуваєш тренди, думки, вектори розвитку. Їх багато відбувається у світі. Але в нас немає грошей туди їздити. Іноді когось вдається направити з якось роботою. Але ми маємо мало контактів, щоб працювати в тому середовищі.

Пригадую, як був на конференції у Вашингтоні в 1999 році. І це лише завдяки тому, що ми розробляли нейрокомп’ютер для однієї компанії, яка взяла витрати на себе. Там я виступив, отримав навіть приз за найкращу доповідь. Це і всі мої контакти. Добре, що мої співробітники зараз частіше бувають на конференціях. Якось намагаємось підтримувати рівень. Але цього, звісно, недостатньо.

Словом, час не стоїть на місці. Зараз мені доводиться освоювати дисципліни, які раніше, здавалось, не мали відношення до якихось інженерних справ.

— Наприклад?

Як ми функціонуємо, де ми живемо, що таке думки, що таке інтелект, кого вважати живим та інше. Зараз читаю «Познание сложного» Іллі Пригожина, лауреата Нобелівської премії. Це про те, чим я зараз займаюсь — інтелект та інше. Там цілий напрямок так званих неврівноважених систем.

На полиці в мене айнштайнівський збірник фундаментальних основ, зокрема теорії відносності, «Фізика і філософія. Частина і ціле» Гейзенберга — це один з фундаторів квантової теорії, теж лауреат Нобелівської премії. Інженерні думки сьогодні надто поверхові, тому змушений знайомитись з іншою сферою та іншими думками, щоб глибше подивитись на те, чим я займався останні років тридцять. Проблеми треба вивчати глибоко, бо рухаємось ми далеко, правда, самі не знаємо, куди.

2004 р. Відділ нейротехнологій Інституту проблем математичних машин і систем НАН України

Одна з головних рекомендацій — немає ніяких рекомендацій

— Чим пишаєтесь та за що шкода в своїй роботі?

Жаль, що нам крила врізали на початку 70-х років. Як по дельфінам, так і нейрокомп’ютерам. Мій колега, Олег Рогозовський, з яким я колись працював у одному відділі, переїхав до Німеччини. Там він написав книжку «Записки ящикового еврея», де йому добре вдалося змалювати атмосферу того часу й описати свої відчуття, коли нас закрили.

Основною проблемою з потужними нейромережам були методи їхнього навчання. Ми тоді підходили до так званого методу зворотного поширення, який був винайдений десь за кілька років — у 1975 році. Але не дійшли.

Дослідник на прізвище Вербос запропонував цей алгоритм, що вирішує ту проблему, над якою ми працювали. У мене була схожа ідея під кінець десятиліття. Правда, його роботу ніхто не помітив. Її зауважили лише за десять років, але на той час вже це перевинайшли. Весь цей поступ дуже складний. І є дуже багато паралельних робіт, непомічених, не підтриманих.

Я не можу сказати, що у мене є якісь великі досягнення. Є робота про дельфінів. Так, на неї досі посилаються багато американських вчених, хоч я написав її більш ніж два десятиліття тому. Ось пишатись чи не пишатись? Не знаю. У Сполучених Штатах я відомий лише по дельфінній тематиці — дельфінолог. Була навіть цікава історія, пов’язана з цим.

— Розкажіть.

Пригадую ситуацію на початку 70-х. Якось мені дають лист, що прийшов на моє ім’я із США. В адресі вказана назва нашої організації, її номер, номер поштової скриньки. А всі ці комбінації були засекречені. Мене питають, звідки я знаю цю людину. Я дивлюсь — Доктор Норіс, директор гавайського центру ВМС США. Вони займались тоді дельфінами. Доктор Норіс писав, що буде в Радянському Союзі й хотів би познайомитись зі мною та моєю лабораторією. Він був упевнений, що це працює дуже солідна фірма, якщо дослідження виконуються на такому рівні. До листа додав ще кілька своїх робіт. На жаль, так з ним і не побачився.

Я казав, що це відомий вчений, але мене періодично викликали на допити, вимагали пояснень, намагались завербувати в КДБ. Мені доводилось вигадувати різні версії, наче, я не здатен, не можу. Згодом мене полишили — сказали, що зрозуміли, як американці дізнались нашу адресу. Як вони це зробили, я досі не маю гадки.

— Ви працюєте в цій темі понад п’ятдесят років. Як, з вашої точки зору, виглядає розвиток галузі за півстоліття?

На початку в 60-х років обчислювальна техніка була одним з прикладних напрямків кібернетики. Весь наш Інститут кібернетики виріс на лабораторії, яка в нас була. Там створили одну з перших у Європі обчислювальних машин під керівництвом Лебедєва — «МЭСМ». Вона дуже примітивна на сьогодні, але головне — обчислювала автоматично.

Коли почав працювати з перцептронами, довелось читати великий пласт біологічної літератури, яка пов’язана з нервовою системою людини.

В 60-х роках, як мені здається, було дуже бурхливе наукове життя. Принаймні в напрямку кібернетики та обчислювальної техніки. Я бував кілька разів на рік на всесоюзних конференціях. Зараз бачу багато схожого на той період. Для молодих програмістів створюють конкурсні програми, видають гранти.

Все ж глибокого проникнення в цю дисципліну мало. Готуються непогані ремісники. Але це ремесло, науково-технічна діяльність — це зовсім інше. Це прикро. Якщо ми на рівні ремесла вписуємось у світовий потік, тоді у нас мало шансів займати провідні позиції в майбутньому.

Коли я працював, для нас взірцями були вчені світового рівня. У нас була мета — перегнати Штати, де в той час створювався перцептрон для розпізнавання звуків. Ми горіли своєю справою. Зараз я не бачу таких устремлінь у молодих. Можливо, я насправді просто їх не бачу. Але поки враження, що молоді люди не ставлять перед собою високу планку. Багато людей мають за мету лише створити красивий запис до свого портфоліо.

— Яку б дали пораду молодим розробникам на майбутнє?

Одна з головних рекомендацій — немає ніяких рекомендацій та надійних шляхів, а всі мейнстримні напрямки швидко вичерпуються.

LinkedIn

55 комментариев

Подписаться на комментарииОтписаться от комментариев Комментарии могут оставлять только пользователи с подтвержденными аккаунтами.

Після «Відсутність результатів» плавно з’їхали з теми. Склалося враження, що пан Олександр скористався можливістю «висповідатися» в рамках інтерв’ю більшою мірою, ніж читачі зможуть скористатися цією сповіддю. Думки цікаві, але інтерв’ювер, на мою думку, мав би повертати розмову в конструктивне русло. Інакше так і залишається: «Відсутність результатів», «відсутність конкретики»...

Кусок истории про нейросети и научную культуру в ссср наверно интересно, но там описание из разряда «они были». Все остальное реально ни о чем: кому интересно читать абстрактные рассуждения которые большинство из нас и так слышат от друзей за пивом. Я ни сколько не принижаю достоинства того человека, но что-то большинство преподов и профессоров последних 30 лет кроме как пофилософствовать не особо что делают — сказывается отсутствие капитализма наверно. По теме — хотите про нейронки читайте интервью нормальных парней типа Andrew Ng, а не надрачивайте на обломки империи. Если же хочется окунуться в атмосферу тех времен на ДОУ есть отличная статья про армейского программиста которая в разы пизже.

дайте линк на программиста

В основному нічого не зрозуміло :) Воно й не дивно — автор на абсолютно іншому рівні, в т.ч. і ніж ведучий (чи ведуча). Характерно те, що чим більше знає і бачила людина, тим більше вона має сумнівів. Вірна ознака мудрості.

Мозг взрослого человека 1e15 параметров. Самые объемные современные нейросети приблизились к 2e8 млн параметров, или 2e-7 доле мозга. Ну чтоб вы понимали, что на кремнии мы далеко не уедем, не говоря уже про штуки типа сознания.

Мозг взрослого человека 1e15 параметров

это уже с вычетом всех параметров которые не участвывают непосредственно в мыслительном процессе?
я имею ввиду то что хорошая доля нейронов задействована в сенсорная восприимчевости от всех органов чуств, и еще одна в обработке для моторных фунций
думаю для самоосознания не надо иметь все 6чуств в распоряжении, и тем болие управлять моторикой

Этого достоверно никто пока не знает, потому что мозг в колбу не помещали. Мое мнение что вряд-ли сознание появится и самое важное останется если нет никаких входных сигналов.

Короткие периоды сенсорной депривации имеют расслабляющее воздействие на человека, запускают процессы внутреннего подсознательного анализа, структурирования и сортировки информации, процессы самонастройки и стабилизации психики, в то время как длительное лишение внешних раздражителей может привести к чрезвычайному беспокойству, утере связи с реальностью, галлюцинациям, депрессии, неспособности концентрироваться и асоциальному поведению[2][3][4], которые впоследствии могут привести к посттравматическому стрессу.
Говоря о депривации у детей, подразумевается нарушение чувствительности от поступающих из внешнего мира сигналов. У детей это нарушение подразделяется на тотальное или частичное и может привести к отставанию в умственном и психическом развитии. Чаще встречается зрительная и слуховая депривация. Опасность представляет лишение тактильного, зрительного, голосового контакта с матерью в первые месяцы жизни. Переживающие сенсорную депривацию дети имеют недоразвитость двигательных навыков, отставание речевого развития и умственное отставание.

У детей это нарушение подразделяется на тотальное или частичное и может привести к отставанию в умственном и психическом развитии.

отставание != невозможность развится
+ это относительная оценка по сравнению с другими индивидумамм
для ИИ, не проблема будет обучить один екземпляр сколь угодно долго, а потом сделать реплики в «взрослом возрасте», и каждая из них будет обучатся сразу с этого левела

для ИИ, не проблема будет обучить один екземпляр сколь угодно долго

Вообще-то это одна из самых больших проблем сейчас.
Можно навернуть сколь угодно большую нейронку с обратными связями и еще кучей всего, но вот только обучить ее будет стоить сотен лет.
Пока мода распределения времени для обучения нейронок 5 часов. Ибо нужно менять самому сеть в случае неправильного обучения подбирать различные параметры — в итоге время растягивается на недели и месяцы даже при 5 часовом обучении.
Даже при обучении юзают градиентный спуск, что находит ближайший локальный оптимум и близко не юзают SA или ГА — ибо время обучения становиться очень большим.

думаю для самоосознания не надо иметь все 6чуств в распоряжении

В The Black Mirror це оголосили поза законом.

Ну а взагалі ж, людське самоусвідомлення — це, начебто, еволюційне продовження того що ви так поспіхом намагаєтесь відкинути

так я згадав цю серію
але ж там мова йде про людську свідомість
ШІ не має бути людиною щоб мати власне самоусвідомлення

Самоусвідомлення воно ж, отак спекулятивно, це що? Відокремлення себе від зовнішнього. Тобто без тих почуттів — ніяк. Друге дїло квадратно-гніздова класифікація на шість почуттів

тобто у вашому розумінні, якщо людина народится з наприклад тільки з зоровим сенсором (якась рідкісна генетична мутація), то вона впринципі не здатна до усвідомлення?

В моєму розумінні фундаментальних взаємодій — чотири, а почуттів, чомусь — шість

я не зрозумів про які взаємодії йде мова

А зачем сразу сравнивать с мозгом взрослого? Суперкалькуляторы уже сделали. Может не так эффективно «наделять» именно их интеллектом. То же сознание появляется у человека задолго до 1e15 параметров. Возможно, не совсем в предельной сложности цепи дело, ну или корреляция не такая прямая.

Опять же мозг в колбу не помещали чтобы по кускам отсекать его и проверять на сознательность. По наблюдениям в животном мире всё приводит именно к количеству. Второй момент — топология. Третий момент — сложный мозг требует длительного обучения, до 20 лет с рождения чтобы изучить высшую математику, создавать музыку, 5 лет на социальную интеграцию, мы такой роскоши ИИ не можем позволить.

С одной стороны, конечно, немного сложно определить количественно натуральные нейросети. Однако есть некоторые успехи в изучении сознания при манипуляциях в лобной доле. Да и вообще, с мозгами делали разные вещи, включая размещение их по колбам...

По поводу ИИ, возможно и не нужно одинаково с самого начала обучать каждый экземпляр, если мы не хотим сделать неповторимым каждый образец ИИ?

Интервьюируемый высказал очень интересное сомнение, хотим ли мы на самом деле скопировать человеческий интеллект, или чего мы хотим достичь конкретно? Какова цель. Чтобы понять природу и смоделировать интеллект или даже сознание, возможно, не совсем целесообразно повторять натуральную версию механически?

Биологический мозг технически нет возможности воплотить из-за нехватки мощности и неполной изученности внутренних процессов, сотен нейромедиаторов и unknown unknowns. Можно вырастить мозг в колбе, но современная этика не позволит это сделать. Искусственные сети пока умеют делать одну вещь и пока не сообщают о успехах в мультитаскинге. Все успехи пока были связаны с нейроморфными топологиями (Resnet, CNN). Но какой объем сети нужен для создания неповторимой музыки, понимания высшей математики? Я склонен к цифре 1e15.

Но какой объем сети нужен для создания неповторимой музыки, понимания высшей математики? Я склонен к цифре 1e15.

Вот это интересный вопрос. Возможно ли, что успешность решения не находится в прямой зависимости от увеличении объема сети? И наоборот, гарантирует ли каким-то этот успех образом наличие 1e15?

Гарантируем при правильной топологии. Есть такое изучение: ru.wikipedia.org/...​Коэффициент_энцефализации

К сожалению,

Индекс энцефализации не даёт высокой точности оценки интеллекта, поскольку большое значение имеет сама структура мозга. У млекопитающих важна площадь коры головного мозга (неокортекса), которая увеличивается за счёт мозговых извилин. Поэтому индекс энцефализации используют для выявления тенденций развития и потенциальных возможностей различных видов.

Я о чем говорю уже 3 раз подряд, топология (коннектом) важна не меньше, но его не сделаешь без строительных элементов.

Естественно, для выполнения сложных задач нужны определенные вычислительные мощности. Однако чистая идея моделирования ИИ не совсем подразумевает обязательное понимание им высшей математики. Полно народу вокруг даже не стремятся понять ее, а мышлением, сознанием, второй сигнальной системой обладают, а порой даже интуицией, правильно?

О каком уровне ИИ мы говорим, универсальном или специализированном? Бот для игры в шашки, шахматы, го — это ИИ, который надерет зад нам всем. Я говорю об ИИ уровня среднего человека с IQ 100, способный решать любые поставленные задачи и соответствующе изменять свое поведение.

Вы уверены, что среднестатистический человек с IQ 100 понимает высшую математику и может создавать новую музыку о чем мы говорили выше? :)

Я согласен, что важно разграничивать понятия по цели. Бот для игры в го — интересный пример для дискуссии. Он знает огромное количество возможных ходов, так и бот с пресловутыми 1e15, возможно, будет знать вообще все ходы, когда либо совершенные, но где начинается интеллект, сознание, вторая сигнальная? Там, где вгрузили вообще все ходы для всех возможных игр, правила и законы квантовой физики или де-то/как-то еще?

Этой полемике про сознание уже 100 лет, Тьюринг устал от неё и придумал тест, который и прозвали его именем, с тех пор ничего лучше не придумали.

Вы уверены, что среднестатистический человек с IQ 100 понимает высшую математику и может создавать новую музыку о чем мы говорили выше? :)

Я уверен что с таким IQ можно развить в себе таланты к математике и музыке, живописи, программировании, и даже квантовой физике если найти хороших учителей и достаточно времени с желанием.

Я не боюсь машину, которая пройдёт тест Тьюринга. Я боюсь машину, которая намеренно его завалит.

Такой исход не станет внезапной неожиданностью. Хуже, если этот ИИ докажет что мы в детерминированной симуляции, вот тогда обидно будет.

ну...Вы не совсем правы
вообьщето есть много случаев когда человеку из за мед.показаний могли отсекать целое полушарие, и он не терял самосознания, и даже сохранялись все пержние показатели, но тут речь о уже о обученном мозге
20лет для выш.математики тоже не верно, если бы цель была обучить именно выш.математики — то можно было обучать только этому, и заняло бы это куда меньше времени (вундеркинды в пример)
ИИ не обязательно обучать всему тому чему обучают обычного ребенка, много информации будет просто избыточно

Также есть еще больше случаев, когда из-за повреждения определенных долей мозга наступали серьезные расстройства.

Так в чем ваш тезис, что мозг можно уменьшить не потеряв в качестве? Будь по вашему.
Насчет фокусированного обучения я так же не согласен.

можно, если удалить все ненужные для ИИ структуры
типа равновесия, вкуса, нюха, управление движением, тактильные чувства, бинокулярность зрения и тп
и тогда вдруг окажется что для тех же мыслительных процесов достаточно куда меньше нейронов

Эти все структуры есть у мышей, рыб, сколько там у них синаптических связей и нейронов?

я не понял к чему этот вопрос
да ети отделы развиты у всех видов которые могу передвигатся и осязать, но это все сразу не обязательный атрибут интелекта
впрынцыпе достаточно будет по одному сенсору и устройству вывода чтобы используя из, мог развится интелект

Частіше б такі статі. Дуже цікаві та глибокі думки від компетентної людини.

всі мейнстримні напрямки швидко вичерпуються

несамовито плюсую

колесо, автомобіль, літак, на початку своєї історії теж були мейнстримом)

Дякую за цікаве інтерв’ю, надихає і вводить в сум водночас. Не можу не погодитись з тим, що більшість молодих спеціалістів прагнуть лише позначки відомої фірми в портфоліо. Варто справді ставити високі планки, щоб досягнути хороших результатів.

Готуються непогані ремісники. Але це ремесло, науково-технічна діяльність — це зовсім інше... Якщо ми на рівні ремесла вписуємось у світовий потік, тоді у нас мало шансів займати провідні позиції в майбутньому.

ІМХО висновок дуже песимістичний. Навіть якщо так — до одного соліста, який грає на роялі, потрібно купа робочих, які виготовляють рояль, носять рояль, налагоджують рояль...

Що ви думаєте про робота Софію?

Та шляк би її... Що Ви думаєте про інтелект дельфіна? чи не може людство використати його в мирних цілях замість робити з тварин підривників-камікадзе?

Дякую за статтю. Хотілося б бачити на доу більше такого змістовного, цікавого і цінного контенту!

Глибоко та класно, але чомусь скидається на некролог по нейромережах...

Не так. Мне посчастливилось работать с командой Александра Михайловича в 2000-2001, и тогда вот было похоже на некролог. Куча народа свалило, да и я сам тоже.

А сейчас совсем не то. Просто реальность чуть не соответствует хайпу, это так.

Чому некролог?

Просто нинішні підходи справді починають вичерпувати себе.

Круто і водночас дуже сумно

Тоді вважали, що нейрокомп’ютери, які здатні до навчання, можуть вирішити проблему нестачі програмістів.

сейчас тоже так считают

Ого!

Але, на поверхностный взгляд, очевидно, что если «Люди мають працювати в межах, які дозволяє природа», вот и «не з’являється нова якість». Бо какой она может быть, если задачи решаются всё те же самые? Гигантские компьютеры заставляют расчитывать изменения погоды с предсказуемым результатом — или будет дождь, или не будет, надо посмотреть в окно...

Большая часть гигантских компьютеров сейчас считает котиков.

Классное интервью, очень глубокие мысли.

Все залежить від того, що ми називаємо інтелектом. Якщо інтелект — це вміння імітувати людську діяльність, тоді так, це штучний інтелект. В дечому він навіть кращий за нас. Але є одна річ. Що цей інтелект буде казати про самого себе й ким себе вважатиме, якщо ми наділимо його свідомістю?

Возможно, он будет себя считать настоящим интеллектом в отличие от смастеривших его существ. Если ввести эмпатийные ограничивающие правила робототехники, то вопрос на какой стадии их вводить. Алгоритмировать эмпатию не так просто.

ВПК всегда двигал гражданскую продукцию

Вот это интервью! Впечатляет. Как говорится, большое видится на расстоянии :)

Подписаться на комментарии