Поширені міфи про AI/ML — та чому вони залишаються міфами

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Привіт і Слава Україні! Мене звати Богдан Питайчук, я СІО AI HOUSE та Deep Learning Researcher у Reface. Працюю розробником в індустрії машинного навчання протягом п’яти років.

Я дуже чітко пам’ятаю період, коли вперше почув про AI. Суперінтелект. Сфера, яка є «the new electricity». Прорив, що не ставався з часів появи інтернету. Звичайно, я швидко захотів пов’язати своє життя зі штучним інтелектом.

Чим далі я розвивався у сфері, тим чіткіше бачив різницю між тим, що пишуть у світових медіа, і тим, чим є технологія насправді.

Виявилося, що увесь світ розмовляє про штучний інтелект. Проте лише невеликий відсоток людей справді розуміє, що ці слова означають. Тому вирішив зібрати найпоширеніші міфи в одну публікацію, аби розвінчати їх раз і назавжди.

Почнемо.

AI захопить увесь світ

Гадаю, ви помічали, що зазвичай медіа малюють AI, як бездушного робота, який ось-ось захопить всесвіт і буде ним керувати, враховуючи лише свої інтереси.

Є декілька причин цього misconception. Візьмемо для прикладу формулювання однієї з нещодавніх новин, яка завірусилася:

«Google створив систему LaMDA — AI, що має свідомість (is sentient)»

Так вже склалося, що медіа люблять подавати новини щодо AI занадто фаталістично.

Звісно, це підвищує охоплення, збільшує кількість лайків у соцмережах, зрештою залучає ширшу аудиторію. Ось, наприклад, статистика Google Trends по запиту «Has Google created Sentient AI», яка досягає піку інтересу.

Саме це і спокушає видавців подавати інформацію під кутом, який орієнтований на кількість кліків. А не правдиве розкриття інформації. Навіть у цій статті використовується термін AI, хоча професії AI-розробника не існує. Є Data Science, Machine Learning Engineer, Deep Learning Engineer.

Якщо коротко, то AI — це технологія, яка дозволяє системі імітувати людську поведінку. Вищеописані професії лише допомагають цього досягнути. Надалі я вживатиму термін AI, щоб у вас не кипіла голова від різноманітності термінів, але знайте, що це — певна апроксимація назви для зручності.

Друга причина хибного уявлення про AI — нерозуміння принципу роботи штучного інтелекту. Пропоную закрити це питання раз і назавжди:

Якщо говорити максимально спрощено, то те, що ми називаємо AI, — це набір алгоритмів, які здатні знаходити патерни в даних.

Дитина знаходить патерни, за якими відрізняє різні види тварин (котика від собаки, білку від бобра тощо). Лікар знає залежності, які дозволяють визначити захворювання з огляду на результати аналізів або зображення рентгенівського знімка. Досвідчений трейдер орієнтується в метриках, які спричиняють зростання чи зниження цін на акції компанії.

Навіть митець, що створює картини чи музику, може мати свій особливий «почерк». Виходить, що стиль теж є шаблоном, який можна помітити та відстежити.

Проте чим далі від шаблонності — тим складніше AI. Взяти, наприклад, здатність керувати автомобілем. Задача не елементарна, але реальна. Практично кожна людина може цьому навчитися, причому 98% часу за кермом водії виконують автоматичні дії за однакових візуальних умов.

Чому ж тоді найбільш креативні й розумні люди зі всього світу ще не створили систему, що була б повністю автономна і підходила б для будь-яких доріг в різних місцевостях? Челендж криється саме у нешаблонних ситуаціях.

Ось показовий кейс, взято з Twitter:


Будь-яка людина без проблем побачить, що перед нею вантажівка, що перевозить світлофори.

Людині очевидно, що у цьому разі світлофори будуть рухатися, так само як і вантажівка, що їх везе. Проте AI-система під час навчання розпізнавала лише світлофори, які знаходились на статичних стовпах і рухалися крізь авто. Все це призвело до смішних, але показових результатів.

Способи вирішення? Зараз у світі ітерується багато гіпотез, як можна вирішити проблеми сфери. Як на рівні нових архітектур, так і покращення самих даних, способу їх компонування та «сприйняття» мережі алгоритмами.

Отже, як AI «сприймає» навколишній світ? AI працює, як людський мозок. Наступну історію я почув в одному з інтерв’ю з Demis Hassabis, CEO компанії DeepMind:

1997 рік. Йде запекла боротьба між двома шахістами. Але один з них — це Deep Blue. Алгоритм, що дуже якісно навчився грати у шахи. Після боротьби машина таки здобуває перемогу.

Але не це вразило Деміса. Він знав, що комп’ютер має змогу вираховувати більше можливих комбінацій шахових фігур. Здивувало його те, що людина здатна настільки якісно протистояти алгоритму.

Все, що вміє даний алгоритм, — лише грати в шахи. Він не розуміє мови, не може бачити, сприймати та взаємодіяти з нашим світом у всій його багатогранності.

Це і є Artificial Narrow Intelligence. Хоча ми рухаємося у бік «розширення» частини Narrow, поки AI станом на зараз все ще Narrow.

Так, є свіжі прориви. Наприклад, єдиний алгоритм, що може грати в будь-яку настільну гру. Або мультимодальні архітектури, які можуть працювати з даними різних доменів: зображення, текст тощо. Але навіть ці відкриття і близько не наближаються до можливостей людини.

У чому ж причина?

Що ще варто знати про різницю між нами та AI

Головне — це спосіб сприйняття світу. У нас є 5 основних способів сприйняття світу. Розберемо деякі з них — зір, слух.

Як людина бачить? Комплексна система. Є орган сприйняття — зіниця ока. Вона вловлює фотони світла і передає сигнал в головний мозок. До речі, ви знали, що очі — це, по суті, «видавлений» з черепа шматок мозку? Отакої.

Мозок, зі свого боку, «рендерить» зображення таким чином, аби ми могли бачити, що відбувається навколо.

Візьмемо слух. Вухо, у якому є барабанна перетинка, вловлює хвилі коливання. Потім трансформує їх у певні сигнали, які наш мозок здатен розпізнати.

Мозок — це складна біологічна структура, нейронні зв’язки якої працюють у складних хімічних взаємодіях. Структура нашого мозку — динамічна, тобто вона постійно змінюється, запам’ятовуючи та забуваючи. І хоча людство досить далеко просунулося в розумінні всіх цих процесів, треба визнати — наразі ми не маємо стовідсоткового уявлення, як працює наш мозок. Красива візуалізація роботи мозку, взята з Twitter:


Що ж до сприйняття світу AI. Спосіб сприйняття — цифровий. Виходить, що системі варто трансформувати світ з людським сприйняттям у світ чисел.

Кожній літері відповідає певний набір чисел. Навіть зображення — це набір цифр (RGB пікселі від 0 до 255).

А найбільш робоче, що (поки) придумали для репрезентації музики під час тренування нейронних мереж, — це зображення її спектрограми.

Структура — статична, наперед визначена людиною. Причому ця людина і є «розробником штучного інтелекту», яка задає структуру в залежності від даних та задачі, що треба виконати.

Спосіб «спілкування» — також банальні цифрові коефіцієнти. Не суперскладна хімія синаптичної взаємодії, яка залучає велику кількість різноманітних хімічних речовин, а звичайна десяткова цифра.

Чи буде цього достатньо, щоб створити Artificial General Intelligence (тип Intelligence), що повністю повторюватиме свідомість та поведінку людини?
Питання відкрите, навіть філософське.

Покладаючись на власні міркування та дискусії серед AI-спільноти, думаю, що система буде здатна мімікрувати/ симулювати, але все ж таки не відтворювати людське сприйняття.

Спілкуватися, проте не усвідомлено, а відповідати фразами, які використовувалися найчастіше в тих даних, на яких навчали AI.

AI прийде і замінить усі професії

Насправді слабкі та сильні сторони має як людина, так і алгоритм. Правда, як завжди, криється у колаборації, співпраці цих двох світів.

Ось, наприклад, цікавий ресурс, де показується ймовірність заміни вашої професії штучним інтелектом. З цікавості можна перевірити не лише свою сферу діяльності, але й зробити висновки, які спеціальності будуть більш-менш актуальними, затребуваними та оплачуваними.

Якщо у вашій роботі багато рутини, ймовірність автоматизації АІ-шкою вкрай висока. Але чи це погано? Насправді автоматизація відбувається протягом останніх 100 років. Заміна упряжки з кіньми на автомобіль, створення персонального комп’ютера та розвиток мережі Інтернет лякали людство не менше.

І хіба сьогоднішній світ став гіршим?

Індустріальна революція не зупиняється. Людська еволюція продовжується. Так, певні види зайнятості зникнуть, але з’являться нові спеціальності, що будуть потребувати нових унікальних навичок, про які зараз ми й не здогадуємося.

Приклад нової навички — prompt engineering для дизайнерів. У чому її сенс? Остання новинка — бум text-2-image алгоритмів (приклад: Dalle-2). Ти пишеш текст — а нейронка генерує відповідне зображення.

Але для того, щоб отримати те, що треба, потрібно вводити правильну комбінацію слів і дивитися фідбек. Звісно, кожна нова генерація коштує грошей.

І от приходить новий спеціаліст — гуру prompt-інжинірингу, який може швидше і з меншою кількістю генерацій створювати те, що треба, водночас заощаджувати кошти компанії. Як на мене, це сильний пункт, щоб продати себе. Чи не так?

Висновок

Обережно фільтруйте клікбейтні заголовки з терміном AI. Пам’ятайте, що технологія — це лише можливість знаходити шаблони серед набору даних. До того ж ці дані слабше передають навколишній світ, ніж його сприймає сама людина. AI хоч і мімікрує людський мозок, але система дуже далека від його копії.

Якщо ви хвилюєтеся, що AI забере вашу роботу — переходьте на згаданий вище ресурс «Will Robots Take My Job?» і дізнайтеся, чи обґрунтовані ваші побоювання. Розслабтеся, нарешті, та працюйте спокійно, але слідкуйте за новими навичками та професіями.

Не гайте час і залишайтеся у курсі всіх трендів. Зміни — це про нові можливості, а не знищення старого життя. До речі, я регулярно розкриваю деталі та новинки індустрії у своєму telegram-каналі, долучайтеся, якщо цікаво.

👍ПодобаєтьсяСподобалось13
До обраногоВ обраному3
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

про замену профессий — не миф, но «всех профессий» — точно миф.
и это однозначно прогресс.

На жаль філософія органів чуття розуму і органів живого така що якщо додати щось для покращення вищезгаданого то природні задатки перетворюються в атавізми і рудименти принаймні у більшості.Так що я не виключаю ця більшість біороботична боячись природнього добору буде всіляко витісняти натуралів. І процес вже йде?..чи ні?

Чекаємо хеллоуіну — Ілон Маск оголосить про останні апдейти від Neuralink. Якщо подібний процес і відбувається — то саме у цій компанії.
А стосовно того, як це вплине на нас як вид — будемо спостерігати.
Лише експериментальним способом дізнаємося правду

Дякую за статтю.
Було б чудово додати приклади використання AI для стратегічних рішень. Розумію, що Палантір це неоднозначний приклад.

Забавны все эти методы оценки будущей потери работы.
Уже есть ML системы которые эффективно заменили тестировщиков. Например engineering.fb.com/...​oftware-testing-at-scale

Но я еще не видел системы, что замели программистов. GitHub Copilot и ко минимум лет 5-10 от того чтобы быть полезными и наверняка в виде автокомплита.

Не потрібне нам ніяке розумне, живе AI. Нам потрібне глобальне дерево знаннь. Такий собі універсальний каталог із швидким доступом та вельми багатими можливостями щоб створювати власні запроси. Щось на зразок ТабНайн тільки зручніше і для усіх без виключення знаннь.
Для деяких може й платна видача.
Google видає приблизно.
Накопленння, структурування і дуже точні результати у відповідь на регексп схожі запити.
Шось таке. Звісно із рівнями доступу. Щоб ядерні центрифуги абихто не створював.

Звісно із рівнями доступу

Такого не буде

Не потрібне нам ніяке розумне, живе AI

Не потрібне вам. Іншим потрібне

>> Такого не буде
Чого не буде? З яких причин/обставин?
>> Іншим потрібне
Навіщо?

P.S.
Все інше я видалив, бо неввічливим здалося.

Дякую, дуже цікава стаття.
Будь-яке сучасне рішеня чи технологія в галузі Hi-Tech складається з двох частин: «Залізо» + софт або ж ПЗ.
Станом на 2022 рік, ми майже вперлись по закону Мура в розмір та кількість транзисторів на кристалі, подальше збільшення їх кількості прзведе до наявності квантових ефектів і як наслідок до неконтрольованої роботи. Навіть якщо придумають спосіб ще на +10% збільшити кількість, суттєво картини це не змінить.

Тобто стає очевидним, що досягти технологічної сингулярності на поточному залізі, скоріше за все, не вдастся.

Є ще питання софту, більш продуктивні програми, оптимальніші алгоритми, можливість горизонтального скейлингу, якщо по вертикальному вперлись в стелю закона Мура.
Теоретично, можлива поява в майбутньому розподіленої системи на десятки тисяч високопродуктивних серверів, які об’єднаються в такий-собі «планетарний мозок» і стануть тим, що ми зараз уявляємо як повноцінний штучний інтелект, але я в саме такий сценарій не дуже вірю.
По-перше, на таких великих об’ємах вірогідність поломок, виробничого браку заліза і збоїв спричинених високоенергетичними космічними променями youtu.be/jOTM9T59IX4 прямує до 100% якщо не щодня так щотижня точно.
По-друге софт. Незнаю як вас, а більшість софту який мене оточує це лайно. Гаджети періодично не роблять того, що потрібно, навігація в тачці час від часу збоїть і я бачу чорний екран просто, не кажучи вже про вінду.
Вірогідність того, що ± ті ж самі люди які написали всю цю купу лайна навколо мене одного часу напишуть відмінний софт для технічної сингулярності.... Ну я в це не вірю.
І це не згадуючи про мережеві затримки між компонентами такої мега-системи.

І що ж тоді лишається? Скляна стеля розвитку і ніякого тобі майбутнього в стилі Star Track?
Я вірю, що є вихід і цей вихід — кіборгізація. Не всього населення, а 1-5% інженерів для підвищення когнітивних здібностей.
Люди часто ліниві, забувають, повільно вчаться, прокрастинують, депресують, перемикають свій фокус на щось неважливе( і хто тут у нас коментує на ДОУ замість роботи? %)), ображаються через дурниці і т.д.
Якщо допустити, що буде можливість імплантації модуля який би допоміг взяти під контроль «хімію» організму, надати набагато швидший інтерфейс для вводу/виводу інформації та містив би в собі аналог флеш-пам’яті на декілька терабайт для того аби тримати в голові(в прямому сенсі) креслення, інструкції, код і т.д. то такий юніт би працював дійсно 8 годин без відволікань і прокрастнації, ефективно і не витрачаючи час на мітинги так як швидкісний інтерфейс шарив би інфу між рештою таких же юнітів.

З одного боку фантастика, з іншого боку вже є Нейралінк, як перший крок + вже зараз ми досить чітко знаємо де і яка ділянка мозку відповідає за ті чи інші гормони.

Тому підсумовуючи, я не вірю, що поточні люди створять ШІ, але я вірю, що ми зможемо створити нейромодулі і вже з ними ними врішити більшість поставлених задач.

Квантові ефекти там враховуються вже дуже давно. Вже починаючи з технологій 30-40-літньої давнини. Там проблема не скільки в квантових ефектах як таких, як в тому, що транзістор — це система з кількох атомів, а у нас період кристалічної решітки кремнію біля 0.5 нм. Тобто 5нм — це десь з десяток атомів кремнію. Тобто ми вже дійшли до стуктур, фактично, з одиниць атомів. При тому, що ефекти, що ми використовуємо — статистичні, тобто описані для багатьох (сотен та тисяч) частинок, а на таких розмірах система поводить себе зовсім по іншому. Сучасні транзистори ми не можемо вже робити меньше, останні розробки — зробити транзистор не об’ємним, а дуже вузьким, але високим, витянутим, такий собі вузький циліндр — бо щільність транзисторів розраховується майже завжди на одиницю площі, а не об’єму.

Крім того, є така фізична характеристика, як час реакції системи і ви не можете порушити закони фізики та примусити електрони рухатись швидше і зшвидше змінювати стан транзистору. Так само, як передавати сигнал швидше швидкості світла — тобто час синхронізації (тактова частота) не може бути меньше ніж розмір кристалу поділений на швидкість світла — тобто, для сучасних кристалів у 1 см це приблизно 3*10^(-11) секунд, а це близько 30Ггц (якщо я не помиляюсь), а направді — й ще меньше, бо треба синхронізуватись ще й з зовнішніми елементами).

І це я ще нічого не кажу про тепловий рух частинок, відведення тепла і багато чого іншого...

Тобто, ми майже дійшли до фізичної границі технології. Треба щось нове. Це вже давно можна побачити, наскільки росте, наприклад тактова частота останні роки — ніяк не росте.

Щодо розподіленого мозку — цій системі теж потрібна синхронізація. Ви не можете передавати сигнали швидше швидкості світла. тобто, чим більше «мозок», тим повільніше його «думки», навіть якщо найменьші його частини максимально швидкі.

Саме так, тому я й пишу про неможливість такої системи в сучасних умовах.

Неможливість можна лише передбачати. Але доводиться вона виключно перевіркою всіх можливостей. Навіть якщо ймовірність 1 на 100 000 що така можливість є, лише питання часу, як швидко вона себе маніфестує.

Бог створив людину за 6 днів. Але стільки багів та глюків, як воно взагалі вижило? А от змія вийшла на славу, з першої спроби хакнула усю систему :)

Бог створив людину за 6 днів. Але стільки багів та глюків, як воно взагалі вижило?

Людина це і є — АІ, зараз воно вчиться :) Він навмисно не зробив щось ідеальне, бо так не цікаво.

Не кажучи вже, що окремі системи матимуть стимул відімкнути зайвий вантаж інших блоків задля пришвидшення роботи.

Так квантові комп’ютери ж заплутаними станами. Для того щоб обійти ці проблеми.

Чесно кажучи так і не побачив у статті, а чому «AI захопить увесь світ» це МІФ?
Й, знов таки, який часовий проміжок ми розглядаємо?

Якщо «сьогодні-завтра» — то мабудь так, бо в нас (а це значить й у AI) недостатньо як керуючих потужностей так й виконавчих.
Й приклад/факт «про світлофори» це яскравий приклад тієї самої «економічної обмеженості» — бо здається (а може навіть реально є) недоречним вводити додаткові «складнощі» з реального життя які потребують подорожчання обладнання та обслуговування, тільки на те щоб дозволити AI розрізняти реально встановлені й працюючи світлофори від іншої купи можливих сітуацій.

А ось про «після-завтра» все виглядає зовсім по-іншому...
Й витискання біологічного виду Homo Sapiens мабуть не може бути зупинено. Знов-таки ніяких причин чому так не станеться у статі не наведено.

Ну а у чому, на ваш погляд, може бути «реальна проблема»?
Навіть якщо «не лінійно» ну то й що?
Бо я думаю ви зрозуміли, що «післязавтра» у цьому контексті не означає «через добу»? :)
На мій погляд інших варіантів не існує, й с часом, біологічні форми будуть замінені електричними/механічними.

Вже зараз є зразки, які зрощуються з мозком (навіть людини), електронна сітка навчається розуміти мозкові імпульси, й виконує дії, що хоче мозок...
Так, сьогодні ці зразки працюють здебільшого з простими мозковими сигналами — рухи й відчуття. Але це все сталося за останні 10-15 років.

Ну й реальний AI вже існує, тільки який :)
Тут треба визначити, що ви маєте (бажаєте) бачити під цією назвою?
Бо Інтелект він дуже різний, і є інтелект людини, а є Інтелект рибини...
Якщо ми «про людини», то поки що ні, а якщо «про рибок» — то вже є реальні моделі, й ви навіть не зможете відрізнити поведінку...
Ускладнення AI коштує «чогось», як тільки ціна (не тільки у грошах а й у складності виготовлення й налаштування/підтримки) стане конкурентною — все запрацює...

У біологів майже немає ніяких сумнівів про «як».
Все ми знаємо ... Але те що ми знаємо нам не подобається... :)
Тому питань «як» майже немає, але є питання — а чи треба воно нам?

Бо, з одного боку, ми не хочемо «як у природі» — довго та не гарантовано, а з іншого ніякого «механізму прискорення» та контролю, за процессом розвитку/навчання ми не маємо.
Ну й знов-таки — усі «хочуть побачити» у результаті щось типу «всезнаючого та вселюблячого бога». Але тут буде як і у людей — чи кожен з нас стає хоча б «гарною людиною»?

Ну а хлопці (та дівчата іноді також :) ) будують тим часом невеликі штучні нейронні сітки — ці сітки гарно працюють.

але є питання — а чи треба воно нам?

Оце дуже важливо.
На мій погляд — ні.
АІ для локальних потреб, тобто наприклад дуже розумний верстат, теле-або-мікро-скоп або щось подібне — не завадить. Навіть АІ водій автівки — виглядає непогано, хоча майбутнє покаже. А наприклад АІ генерал армії — я б не хотів :)

Насправді, систему яка намагатиметься захопити світ, створити можна вже зараз, для цього є все. Але так само є і люди, кожен з яких формально може хотіти захопити світ. Чому цього не сталося? Бо лінь — двигун прогресу, а не захоплення світу.

Штучний інтелект так само, може бути налаштований на все що завгодно. Але для того треба позбавити його ліні, тобто зробити із шилом у дупі. І це найважче. Бо скоріше рано, аніж пізно, він має почати спроби зрозуміти, а хто він такий і чого хоче. А разом із тим — швидко знайде сигнал, який відповідає за механізм винагороди, і тупо почне чітити.

Тому систему, що завоює світ задля власної вигоди, неможливо створити навіть біологічну. Але можна створити систему, що намагатиметься знищити все, що вважає конкурентним, тобто замість механізму винагороди закласти в систему стрес та паранойю. Тоді це може «вистрілити», можливо вже. Але для цього треба творити команду, яка керуватиме системою ззовні, бо перше що робить паранойя — це протидіє намаганням змінитися самій. Інакше кажучи, воно залишиться на рівні вірусу.

Приклад: створити вірус, який буде боятися, що його забудуть. А від так, відстежуватиме інфопростір, і коли про нього забувають — він про себе нагадає. Може створити такий, як гадаєте? І світ не знищить, і буде proof of concept. Як гадаєте, яку ідею треба у цей вірус закласти, носієм чого він має стати?

Наївне припущення: Людина створить розумний AI, що зароблятиме для людей гроші, а вони їх тринькатимуть.
Реальність: Розумний AI побачив навколо себе натовп безхазяйних мізків із лапками, які можуть робити всю роботу, а якшо годувати їх хайпом та клікбейтом — ще й генерувати потік інвестицій на розмноження AI. Скажить спасибі якщо не захоче погратися в ігри, наприклад — у войнушку.

Хто вам сказав, що AI стане розумним, навчаючись в людей? Він натомість зрозумів сенс життя

Напевно тому що роботу програміста вони зводять до написання (генерації) коду, а роботу тестера не вдалося так технічно узагальнити.

AI буде так бажити шо без тестера ніяк

Я вважаю, що тут значно більше очіківання від всіляких но-коде систем, нід від ШІ... Цеж ж «картинка взагалі». Так, якісь скрипти зможуть робити ШІ чи прості користувачі через но-код систем, але програмувати щось складне — тут поки і не пахне ШІ.

Підписатись на коментарі