Чи переможе хороший штучний інтелект поганий? Думка «хрещеного батька ШІ»
Джеффрі Хінтон, професор Університету Торонто, не має впевненості, що хороший штучний інтелект переможе поганий. Engadget наводить цитати з його виступу на конференції Collision в Торонто.
Він вважає, що штучний інтелект може бути настільки хорошим, наскільки хороші люди, які його створили. І вірить, що погана технологія все одно може перемогти.
«Я не впевнений, що я зможу контролювати хороший ШІ, який намагається зупинити поганий.», — сказав він.
Також професор, якого називають «хрещеним батьком ШІ» вважає, що може бути важко зупинити військово-промисловий комплекс від виробництва бойових роботів з використанням технологій AI.
4 коментарі
Додати коментар Підписатись на коментаріВідписатись від коментарівЯ просто в шоці від того, наскільки недалеко від своєї тваринної природи відійшли люди: захоплення нових територій, домінування, знищення тих хто відрізняється від тебе і т.д.
Пройшовши неймовірний шлях від палиці й каменя до ШІ та надскладних механізмів і польотів у космос, людство все ще хоче створювати бойових роботів для досягнення власних цілей замість створення support/service роботів і передачі їм складних/неприємних для людей задач, але задач, які націлені на створення чогось, а не на руйнування.
З кожним роком все більше погоджуюся з агентом Смітом: «Людство — це вірус».
Суто теоретично, «поганий» має перемогти, бо множина можливих рішень у нього більше — він може обирати будь-які рішення, як «хороші» так і «погані», в той час як «хороший» має обирати лише «хороші».
При цьому «поганий» не має додатково оцінювати наслідки з точки зору «хороші-погані», тільки ефективні чи ні, в той час «хороший» має ще й оцінювати, чи не буде рішення чи наслідки «поганими» (що б за цим не стояло).
Виходячи з цього, «хорошому» треба більше ресурсів (а, отже, і часу) на рішення, і при цьому доступна йому множина рішень — менше. Тобто виграти він може лише випадково.
Такі справи.
Але хто виграв — той і «хороший», тож виграє «хороший» ;)
Stop guesing just do it github.com/rakovpublic/jneopallium !
Good, Bad...