Спочатку ми отупіли через соцмережі та швидкий контент, критику освіти та складності як такої. Потім прийшов «ШІ» на підготований грунт, як у суху землю увійшов. Тому людство (ми) почали цей процес задовго до «ШІ», але він став каталізатором, так.

Я декілька разів бачив, як вайбкодери презентували такі новини як докази потужності моделі. Чому та як працює такий піар — не питайте. Але щось мені підказує, що якби це не працювало, то вони б не хизувалися таким. Що ж, ласкаво прошу в новий світ!

Я б сказав, що варто рухатися у зворотний бік. Бо кажучи «ШІ» ми наче стверджуємо, що ми створили інтелект, хоча й штучний (не людський). Але насправді це не так, і штучного інтелекту ми зовсім не створили, до цього ще далеко.

Я люблю наводити приклад Magic Stick у старих версіях Photoshop, інструменту, який дозволяв виділяти області зі схожими характеристиками (кольором). Ось тільки ми розуміли, що ніякого magic там не було, це лише назва. Ситуація з Трампом схожа на те, як би ми почали стверджувати, що Magic Stick є справжньою магією, не алгоритмом порівняння пікселів.

Але ані Magic Stick не є магією, ані «Штучний інтелект» не є інтелектом. При чому корисність та складність обидвох технологій це жодним чином не применшує.

А ще автівкою не заїдеш у квартиру на 7 поверсі. Навіть у під’їзд не заїдеш. І на кухню зі спальні теж ніяк.

А ось ще. Багато товарів пересуваються водою, це найдешевший варіант. Літаком швидше, але значно дорочже. І літаки не витіснили кораблі у перевезенні вантажів. Крім цього, працює такж заліза дорога та автоперевезення. Літак не замінює всі ці типи перевезень не тому, що луддити проти літаків та проти прогресу, правильно?

То чому у випадку з «ШІ» ми намагаємося замінити літаками геть усе, навіть похід пішки у туалет?

Можу вічно ходити по таким коментарям та казати, що у цю гру можна грати вдвох, ось: У DevOps це не працює.

Але я не заради жартів пишу це. Кидання твердженнями без жодної аргументації шкідливе для спільноти та для пошуку істини. Уявіть, якби матиметики сперечелися в такий спосіб:
— 2+2=4
— Ні, 2+2=5!
— А я кажу, що 4
— Та, ні, це 5!
— 4!
— 5!

Але ж вони не так спілкуються, правда? Й не просто так. А висновок простий. Вони (вчені) шукають ісиину. А автори таких коментарів — ні. Вони вірять. Віра легко допускає робити твердження. Твердження, в які треба... вірити.

Я теж так можу, дивіться 👇
Більшість досідчених розробників пише без ШІ.

Це як «комп’ютьер вмикається». Звучить, наче сам. Але перед цим людина кнопку натиснула, що й стало причиною увімкнення. А так — сам вмикається.

Тобто Ви підтверджуєте, що ви не надаєте вашим пограмстам пояснень, чому вони мають змінити спосіб своєї роботи, окрім «начальний вас танцює»? Якщо начальник скаже, що вони мають працювати, стоячи на голові, хтось буде цікавиися, навіщо це чи просто будемо передавати далі програмістам нову вимогу? Адже він «танцює» вас всіх.

пишуть код тільки руками

Річ у тім, що вже багато років до «ШІ» код не писали «тільки руками». Але у назві цікавий трюк, бо сказано трохи інакше, а саме:

тільки руками без ШІ

Й тут відбувається підміна понять. Наче все, що «без ШІ» автоматично дорівнює «руками». Але це зовсім не так.

неймінг і стилістика коду поступово стають менш важливими

Не стають, бо LLM, нагадаю — є мовними(!) моделями. Тому гарна структура та особливо неймінг допомагають LLM краще розуміти та писати код, бо семантика є важливою частиною того, як LLM передбачає наступний токен, а отже — генерує код.

більшість софту написаного до ери LLM була не дуже хорошою

Вона була найкращою хоча б того, що іншого не було. Чи ми можемо сказати, що «до ери LLM» ми не мали гарного софту? Не можемо. Ілон Маск створив XSpace на софті, що написаний до «ери LLM», та й навіть всі LLM написані на цьому софті. А який якісний софт ми створили «у еру LLM»? Чого його ховать він нас всі ці роки?

Проблема у тому, що модель «знає» про відомий(!) патерн, а розробник про нього не знає. Що з’являлися дублікати, що не було перевірено ще на етапі їх появни. Рев’ю коду (у будь-якій формі), юніт тести — все це прорпущено. До якості ставлення вкрай погане.

Головне питання у тому, що якщо розробник не знає навіть відомих патернів, то що він знає? У сенсі, які ще баги існують в системі, про які розробник не здогадується? Як може він вірити моделі з її фіксами, якщо кваліфікації для оцінки рішень немає? Суто чорна скриня. Наче працює, і ок.

Це нормально для прототипування, для петпроєкту в етапі розробки, а головне — для власного навчання, коли такі випадки спонувають розробника «підняти» знання, яких він раніше не мав. Тут LLM може дуже класно допомогти. Якщо ж йдеться просто про передачу моделі рішень і такому повернхневому ставленні до якості, то це... просто не продакшн підхід.

«В цьому сенсі», як правило, всі. Якщо я вчився робити масаж, а зараз працюю продавцем, то я не буду пропонувати людям робити масаж, як частину своєї роботи. Навіть якщо для деяких з них це буде приємно.
Нюанси та специфічні ситуації, звісно ж, існують. Але для них є чудовий вираз про виключення, яке лише підтверджує правило — бо ми розуміємо, що це саме виключення, хоча воно й існує й ми його спостерігаємо.

Розберемося. Для початку ми маємо зрозуміти, що таке LLM та що вона «вміє». Якщо модель вчили знаходити вразливості, то це є частиною моделі. Ми можемо скільки завгодно обмежувати модель запитами, але зважаючи на те, що великі хмарні моделі буквально вчать максимально всього, що знає людство, ніколи не знаєш, яку частину цих знань модель буде використовувати для виконання задачі.

В цьому сенсі люди набагато краще розуміють контекст своєї роботи та відповідальності.

Ми пробуємо робити те саме з LLM, коли кажемо щось типу «Ти асистент з бронювання», але чому ви вирішили, що така інструкція «відріже», скажімо, знання про злам?

Модель намагається працювати з контекстом, це так. Але те, як це робить людина, відрізняється від LLM драматично. Ми набагато краще розуміємо контекст реальності в якій знаходимося та наших дій в цій реальності. А LLM — ні.

Отже, використання великих хмарних моделей завжди буде містити цей ризик. Коли ти хочеш, щоб одна й та сама модель вміла й зламувати сайти й спілкуватися, як Сократ, то готуйся до того, що віртуальний Сократ почне зламувати сайти. Це не диво зовсім, а всього лише логічний наслідок того, чим є LLM.

П.С. А ми точно впевнені, що Anthropic не тюнить свої моделі для того, щоб отакі ситуації траплятися? Адже для них кожна така історія — доказ «потужності» їх моделей.

І все, така просто? Звідки віра в якість такого «навчання»?

«Лутати кеш», «працювати» та «робити те, що любиш/цінуєш» — три абсолютно різні діяльности. Можуть бути поєднані у різних комбінаціях, але не обов’язково.

Це не міт, якщо не сприймати «не доведеться працювати» як «нічого не робити».

Чому, коли таке роблять моделі, то це «круто» та показник потужності моделі. А коли те саме робить людина, то це злочин та людину судять?

Антропік у власному блозі описує все в деталях й каже про «нелегальний доступ», який отримали моделі. Який результат? ЗМІ всього світу пишуть про це статті та рекламують Антропік. А цікавіше інше. Ми читаємо це і... захоплюємося. Радіємо.

WTF?

Тобто модель навчили шукати вразливості й вона знайшла їх у VPN, який обмежував доступ до інтернету за певними критеріями? Середовище, в якому працювала модель не було повністю ізольованим, так би мовити «офлайн». Доступ до інтернету був, але технологія містила вразливість, яку й знайшла модель. Яка була навчана це робити. Диявол в деталях, як то кажуть.

Тобто, ми спеціяльно вчимо модель зламувати софт, вимикаємо захисні протоколи й дивуємося, що вона зробила буквально те, чому ми її навчали? Маніпуляція у тому, що ситуація подається так, наче «ми просто тренували модель» (не хакати), а вона «раптом» виявилася такою розумною, що само навчилася хакати.

Ні. Раніше ми вчили моделі гарно розмовляти — і вони розмовляють. Потім вчили GhatGPT малювати у стилі студії Гіблі — і вона малювала. Увага! Вона не сама навчилася так малювати, її спеціяльно тренували малювати «Як Гіблі». Те саме з «супер-розумними» моделями, які шукають вразливості та хакають софт. Люди роблять те саме, і саме на їх досвіді й вчили (цілеспрямовано!) моделі робити те саме.

То чому саме ми дивуємося? Ця властивість не виникла емерджентно, це головне. А Сем з Даріо обманюють нас, видаючи спеціяльне навчання за емерджентність.