Чи не здається вам, що через ШІ ми потроху тупіємо? Обговорюємо comprehension debt
Побачила нещодавно одну статтю і, якщо чесно, теж багато думаю про те, як інструменти ШІ можуть вплинути на нас в майбутньому.
У статті піднімають дуже цікаву тему — comprehension debt, коли коду в проєкті стає все більше, а людей, які реально розуміють як воно все працює під капотом, все менше. Автор пояснює, що ШІ генерує рішення набагато швидше, ніж розробники можуть їх нормально перевірити. Раніше код-рев’ю змушувало інженерів вникати в деталі та тримати в голові загальну картину проєкту. Зараз же все може виглядати ідеально, але по факту часто апрувлять те, що ніхто до кінця не розуміє. І цей борг накопичується непомітно, поки в один момент система не зламається так, що ніхто в команді не знатиме, як її лагодити. Там навіть наводять дослідження Anthropic: інженери, які делегували задачі ШІ, потім набагато гірше розуміли, як працює їхній же код.
І я зловила себе на думці: коли не було цих всіх асистентів, ми витрачали набагато більше часу на ресьорч, треба було самому подумати, пошукати інформацію. А зараз інколи складається враження, що ми всі потроху тупіємо, бо занадто звикаємо до готових відповідей.
І так, я не противник нових технологій і вважаю, що ними потрібно користуватись та бути в темі. Але як це вплине на майбутнє покоління... Мій похресник, який вчиться в старших класах, для усіх домашок юзає чатгпт і гордиться цим, бо вміє це робити. Але ж важливіше в такому віці навчитись самостійно думати та шукати рішення.
І тут виникає питання: якщо зараз досвідчені ІТ-спеціалісти з сильною базою іноді втрачають контроль над проєктами через ШІ, то що буде з тими, хто почне свій шлях у професію виключно з написання промптів?
Що взагалі думаєте про цей «борг розуміння»? Помічали за собою чи знайомими, що через ШІ стало менше бажання глибоко вникати в робочі задачі?
54 коментарі
Додати коментар Підписатись на коментаріВідписатись від коментарівЧесно? Мені не здається, що з ШІ ми тупіємо. Як на мене ШІ допомгає робити роботу швидше та ефективніше. Особливо повторювальну та ту що нецікава. IMHO.
Це ж було вже©
Гиии лол! ©
Не те що б тупію, скоріше не розвиваюсь, ніби застрягла на місці, на тому ж рівні. Такі відчуття від ШІ.
ризикну попрогнозувати, хоч справа ця і не дуже то й добра
є такий ефект в статистиці — редукція до медіани
з погляду того, що ллмки не вміють в створення нового, не базованого алгоритмічно -детерміністично на старому, але дуже добрі, іноді просто фантастично в рекомбінуванні вже існуючого і переробленого, викритті повязаностей і тп ризикну сказати, що ота редукція до медіани завдяки цьому інструменту буде мати місце, іншими словами — ми дізнаємося про свій справжній рівень
а от, що нас змінює і формує той рівень — тут за Маршалом Маклюеном можна припустити є соцмережі і хто там кричить голосніше
це все звісно не враховуючи ефекти емерджу нового, вони не прогнозовані але гарантовано повстануть, як повстають навіть з простих двокомпонентних систем
мені якщо і здається, то тільки те, що ШІ показав наскількі ми були і є тупими у більшості своїй
Не ми, а ви.
Так ніхто ж не заважає і зараз порев’ювати і вникнути
Але в цілому щось в цьому є, теж ловив себе на цій думці
чисто ревью — трохи не то. Це як подивитись відео на ютубчику про похідні\інтеграли: наче все зрозуміло, але без самостійного вирішення рівнянь це все забудеться через два тижні.
А без постійного застосування за рік-другий все одно забудеться
Для девелопменту якшо забув через рік що як і навіщо писав, то це сприймається нормально. А якщо за два тижні то сприймається як пора кукуху перевірять :-)
Колись давно в 2003 році пощастило мені поговорити з вже колишнім програмістом на асемблері. Він уже кілька років працював продавцем комп’ютерів. І от коли я розповів що зібрався поступати на програміста, то він сказав що вже запізно. Справа мовляв у тім що справжнє програмування — яке на ассемблері — вже стало неактуальним. А програмувати на високорівневих мовах будь-який дурень може.
Потім вже в університеті був у нас курс по асебмлеру. Десь під кінець курсу треба було на асемблері написати квіксорт. Це було не просто, зайняло декілька годин, радилися в процесі з одногрупником який жив в сусідній кімнаті і теж його робив. Памʼятаю, як закінчив — я прям подумав «капець я розумний».
З появою АІ-агентів вже і програмування на високорівневих мовах зникає, стає нішевим. Нова універсальна мова програмування — англійська. AI чудово пише алгоритми, і взагалі майже все окрім малтітредингу. Наче тупішаємо по трохи. З іншого боку явно вивільнився якийсь розумовий ресурс який раніше повністю витрачався на написання коду. Треба знайти йому якесь більш актуальне використання.
Це не мова програмування. Мови програмування детерміновані, і для однакового коду, однакового набору параметрів оточення та налаштувань компіляторів, ми отримуємо однаковий результат. Агенти не новий рівень програмування, а програмісти на попередньому.
Хто сказав?
A programming language is a formal, engineered language used to express instructions for a computer to perform specific tasks
Про детермінізм ні слова
Так, але по факту вони детерміновані. Навіть якщо ми вносимо неоднозначність чи випадковість у виконання, ми це робимо навмисне та контрольовано. Якщо ми виключимо детермінованість з характеристики мови програмування, мовою програмування стають задачі в джірі програмісту. Це вже існуючий десятиліттями рівень програмування, який вищий за рівень ШІ.
Та де він там вищий коли багато людей перестали писати його руками і пишуть промпти. Да поки перевіряють, ревьювлять, но скоро і це перестануть робити.
Недетермінізм? Так.
Вищий рівень абстракції? Так.
Вчора клод лежав майже нічого не зробив в плані написання коду так як після року вайбкодинга писати код руками це як ніби повертатися в кам’яний вік. Я можу писати, скіли нікуди не ділися, просто не хочу. Це як автобус зламався за 100 км від Києва. Ти вже пішки не підеш, підуть лише ті, хто на автобусах і машинах ніколи не їздили.
це як вміють водіти авто ті, хто сідав за руль рік потому, ну тобто через рік таки вміють. а десь через 10 років тількі і будуть що вміти — це давати вказівки клоду. я надіюсь, що таки роботи андроїди прийдуть у кожну хату і люди взагалі розучаться рухатися. будуть давати вказівки — піди до холодильника, принеси поїсти, спляши гопака.
Через 10 років твої скіли кодинга будуть такі ж потрібні як зараз скіли ассемблера, так що сумувати за ними не буду.
Саме скіли кодинга а не знання інженерії, які нікуди не діваються і навпаки швидше здобувається так як більше часу тратиш на інженерію так як АІшка взяла на себе кодинг
можна подумати айтішники таку інженерію роблять і кожного разу такі унікальні рішення, що через 10 років АІ так не зможе )
ии сможет в туже секунду как его обучат, было бы только на чем учить
Якщо це так, то як пояснити мову С? Там буквально усе UB, яким ти апріорі не можеш керувати і контролювати.
В С вхід в UB детермінований. Ви можете сказати, за яких умов появиться UB. Результат самої невизначеної поведінки — невизначений, але шлях до неї визначений і контрольований. Інакше кажучи, ви знаєте, що треба зробити, щоб не потрапити в UB.
В той же час програміст або ШІ можуть взяти коректну задачу «скласти всі елементи масиву», в одному випадку зробити правильно, в іншому порахувати половину, а в третьому провалитися в UB. Просто тому що бачення таке, досвід, уважність, настрій, забув, не згадав, не врахував, або тому що може that is why. Ви не знаєте, що треба зробити, щоб вони гарантовано зробили те що треба, завжди і однаково. Взявши інструкції так званого нового рівня програмування, яким він не є, і передавши для виконання в іншу LLM, або в ту ж саму, але в іншій сесії чи навіть в інший раз, ви можете отримати інший результат навіть для цілком детермінованої задачі.
Як це знайти? Роботодавець накине більше тасків.
позіхаю))) ви можете генерувати щось більш цікаве, аніж згадки про асемблер і перфокарти? Самим не нудно?
Здається що раніше ми тупіли через інтернет, до того через телевізор.... Напевно, що за кілька років все устаканеться і компанії що виживуть все ж знайдуть той баланс.
Я тупію через війну
Після нічних обстрілів не хочеться робити нічого
Через абсолютну невизначеність не хочеться вчити нічого нового
Не має можливості піти на хоч якийсь всратий мітап не кажучи вже про велику конфу. Щось онлайнове слухати не те бо не позадаєш питання, не подискутуєш із спікерами десь у холі
Пливу за течією яка потроху мене заносить на камʼяні пороги та шматує
Немає хоч якогось якісного відпочинку. У парк на районі піти цілий квест
Яке там AI
чи не здається вам, що юзаючи фреймворки ми потроху тупіємо?
от з ШІ так само — будуть мавпочки яких за місячні курси навчили парі команд і будуть ті хто реально розбирається і розуміє так як затратив на це багато сил, часу і практики.
І 80% людей будуть посередині, віддаючи перевагу простому що працюе і по*** на ціну (приклад пітону дуже популярно пояснює цю точку зору) но при цьому намагаючись або просто роблячи вид в сторону розуміння і спеціалізації.
Нуу я про це постійно кажу
З глобальної точки зору це не проблема, все ж для 99% людей користуватись ліфтом чи компутером без розуміння як він працює — не ознака тупості чи профнепридатності
Хтось при цьому все ж обслуговує ліфти й компутери
З тз конкретних проектів і кар’єр — цілком проблема. Але це довга розмова
без фундаментального розуміння того що роблять — розвозитимуть чебуреки
Важкі часи народжують сильних людей. Сильні люди створюють хороші часи. Хороші часи народжують слабких людей. <- ми знаходимось тут
Слабкі люди створюють важкі часи
Я ніколи не жив в хороших часах, так що брехня ця байка.
В нульових було відносно норм. А ще десь з2016-2020, коли хаос майдану вже заспокоївся, а АТО перетворилася на дуже в’яле незрозуміло що. Люди сподівалися що конфлікт якось закисне і буде щось типу як на Кіпрі чи Тайваню. Тоді ще були епічні срачі між оставашкамі та уєзжашкамі і тут на форумі на повному серйозі оставашкі розказували яка Україна прекрасна країна для життя бо на айтішні кілобакси (а ІТ тоді росло як на дріжжах, потреба в спеціалістах була висока і компанії конкурували за кадри, звідти йдуть усі ці крилаті фрази про сири і «через дорогу на +$500») можна мати квартиру в центрі, регулярно ходити по барбершопам-ресторанам, дівчат молодих красивих повно і взагалі країна можливостей. А за кордоном тіки іпотека на тридцять років за конуру на околицях, бюрократія та униніє, сумні метчі з індусками та індонезійками і самотність. Як почитати топіки тих часів то зовсім інша реальність в свідомості людей була, і справедливості заради дійсно багато чого змінювалося на краще після майдану.
А от після ковіду почалася справжня пзда. Спочатку пандемія, а потім русня. Я дуже співчуваю дітям які в цей період почали дорослішати і вступати в підлітковий вік. У них забрали їх найважливіші роки формування особистості. Не знаю що з них виросте.
То ви стверджуєте що оце хороші часи і далі буде ще гірше?)))
Це не так.5-6 років і зараз майже усе — проектне, і при цьому багато хто намагється щось робити і в межах можливостей покращувати світ навколо.
Ми живемо у часи, коли відбулося в Україні 3 революції, 2 війни, 2 раза було удвоєння цін, де стало звичайним, коли невідомі люди волочать людей за ноги до буса, де можно не сподіватися на адеватну пенсію від держави, де пройшли часи, коли можна знайти роботу на
А яка різниця, хто зробив коміт? Петров ли нейромережа? Особливо якщо Петров або звільнився, або не пам’ятає.
У разі комітів від LLM принципі можна зберігати всю історію обговорення питання, логи всіх агентів, тощо. Те що людина фізично не може.
Розібратися можна, просто як на мене це загальна тенденція, що розробники з часов усе меньше й менше розбираються. А з появою LLM вангую що тренд буде ще швидше.
істотна різниця в принципі є, з петрова можна спитати. Петров можливо хоче підвищення, визнання чи іншу мотивацію. Петров боїться осуду чи звільнення. Петров зацікавлений у результаті. Цього всього нема в ллм. Агенту пофіг, петрову якраз ні.
Наприклад можу поспекулювати що антропік чи опенай зовсім не зацікавлений щоб агенти деліверили якісний код. Вони зацікавлені щоб ти використав побільше токенів, а не в якості результату. Можу поспекулювати що навмисне внесення помилок — класна бізнес-модель для них
хто то все буде читати сорі, я тя прошу. Wishful thinking. Просто додатковий профіт виробникам ssd і всяких систем зберігання цього непотребу. Не уявляю більш демотивуючої роботи як розбиратись в тонах логів якихось агентів.
Тобто так, розбіратись то можна. Але ніхто не захоче це робити. Як не хочуть зара вчити кобол, незважаючи на тіпа потрібність
До речі цікаво що прогери одразу починають про коміти, але ж стаття не про виключно програмування.
В чужу душу не влізеш, до речі на відміну від LLM. Тому всі наші сподівання що ми розуміємо мотивацію Петрова можуть бути марними, бо він хотів навіть нашкодити. А в більшості випадків це така рутина, що Петрову банально пофіг, жодної різниці від LLM.
Є агенти для цього. А так дивишся на код семирічної давнини, на коміти, то в принципі часто знаходиться більш менш обгрунтована відповідь, чому саме так.
не будем говорити в абстракціях
є вебморда магазину, жителі вілларіба хочуть зробити чекаут зручнішим, бо ставлять себе в позицію користувача цільової аудиторії. Житель Петров хоче на наступному ревю похвалитись цим перед компанією. Допустім петров не найкращий але все ж непоганий кодер, він з тих хто може ***кхуяк і в продакшен бо треба було на вчора. В команді петрова 5теро людей, що в принципі знають де можна зрізати кути і як впіхнуть нєвпіхуємоє, а де не можна . Проект покритий на 30% але саме там де може глюканути. Користуються ШІ але точково. За спрінт викотили шось що збільшило конверсію вдвічі, але змушує матюкатися джорджа мартіна.
Тим часом у жителів віллабаджо знову проблеми — команда з двох промпт інженерів що залишились після другої хвилі «реструктуризацій» та «покращень» досі за допомогою агентів шукають причину чому «ідеальний» реліз 1.2.3 упав через 30хв після запуску і закораптив базу незважаючи на 90% покриття згенерованими агентами тестами. Реліз із новим чекаутом має в 10 разів більше змін ніж у жителів вілларіба через те що агенти все роблять harder better faster stronger. Вони вирішують відкочуватись до 1.2.2. Але жителі віллабаджо ще не знають, але дізнаються що попередній ідеальний реліз 1.2.0 мав непротестований корнеркейс у обробці валют й похерив 20% замовлень за останній тиждень. За останній місяць набралось 900 гігабайт логів з різних джерел для аналізу.
Good luck
Я в принципі давно люблю це називати втратою організаційних спроможностей ще з часів гайпу на всякі клауди, але це зараз називають capability atrophy або organizational forgetting або skill decay. Називати можна по різному. В контексті гіпотетичного аналізу масиву логів агентами це можна взагалі назвати організаційним паралічем. Це саме те що піднято в темі ТС. Коли компанії користуються результатами ШІ, але кількість людей що можуть пояснити чи контролювати ці результати давно впала за критичну масу. Я от думаю це саме те майбутнє яке чекає на багато проектів.
Насправді можна опиратись на оригінальне дослідження антропік зі статті, що на цифрах спростовує тезу що різниці хто закомітив нема
тобто різниця хто закомітив таки є, хоча в обох групах комітили люди, можу поспекулювати що при комітах нейромережею ніхто з людей взагалі не зможе пояснити чому і як зроблене там працює, не те що продебажити
I хто буде вкладати час у це? Це хіба що прочитати максимум кільком людям, поки свіже. Потім це стане контр-продуктивно
Тому що «навіщо написаний цей код» це, як на мене, найчастіше питання, яке я задавав. І неодноразово натикався, що була причина цього.
окей чатГПТ напиши дотепний та смішний комент про те що ми не отупіємо, підгони його під мій стиль та прибери подвійні тире шоб ніхто не поняв шо це ти написав а не я. додай трошки неформальності та можеш зробити пару одруківок.
Я про це чув десь так в классі в 6, щось по типу : «Через приставки та калькулятори — діти отупіли». На ділі потім були досліли, що відеоігри в сутності підтримують мозкову активність і навіть сприяють попередженню дименції в похилих людей. Компьютери і програмування, і навички користувача, сіс адміна та dev ops, а в декого програмування чи тестування отримані від розвлекухи та хоббі — дозволили тим хто цим займався, зробити це профессією та заробляти значно більше ніж ті хто кричав про отупіння.
Тим хто керує дронами — робото технікою на полі бою, по статистиці значно краще ніж тим хто ходе на посадку в Банзай! чи сидить в окопі чекаючи на КАБ в свій бліндаж. А по суті це мало чим відрізняється від відео ігор — джрйстик та VR шолом, а ігри в сутності є просто симуляцією. Авіа тренежери та інші тренежери і т.д. — так само технологія аналогічна відеоіграм. В відео іграх бойвий ШІ — боти, існують принаймні 35 років. Для реальної бойвої роботи, такого вже достатньо часто див. Операція Путина.
Що дає ШІ, це до просто збору інформації просто пушовиком десь по Stack Overflow, ще надає базовий аналіз та синтез. Так це суттєве покращення, з розряду електро, бензо чи пневмо інструмента.
Що якраз напрягая, нащі предки не запливали жиром бо доводилось носити мішки та косити в ручну і т.д. Зараз нам третрба платити абоннмент в фітнес клуб і слідкувати бо буде дупа як два херсонскі кавуни. Напевно треба видумуввти нові врави для тренування мозку.
Раніше, щоб поїсти м’яса, треба було ходити на полювання, вистежувати видобуток, свіжувати.
Якби той мисливець глянув на сучасного працівника свиноферми, він точно назвав би його тупим. Тому що у сучасного працівника зовсім інші навички, йому нема чого забивати собі голову старими знаннями.
Відповідно зараз немає потреби забивати собі голову або вчитися гуглити — це AI помічник може робити.
Єдине, що шкода — це школярів та студентів. Їм забивають голову сміттям, замість того щоб розрахувати базові речі — скільки їм доведеться працювати за вибраним напрямком, щоб купити квартиру, створити сім’ю та завести дітей. Тобто приголомшує їх не AI, а сучасна система освіти з минулого століття, коли наявність диплома гарантувала роботу.
BTW Наявність диплома вже в кінці минулого століття не гарантуаала високо оплачуваємої роботи і високого соціального статусу.
Зокрема в СРСР слово інженер було синонімом слова — ніщеброд, із галімою зарплатою в 120 карбованців якої би не вистачало на придбаня будь чого вище базових потреб — не кажучи вже про придбання житла та автомобілей найбільших дефіцитів. А це ставило інженера в рівень трошки вище від совгоспника і то не факт. Топовою же роботою була сфера торгівлі, де був доступ до дефіциту, тобто банальний вантажник в десь гастрономі в Москві з якісним постачанням, це було сильно круче ніж наприклад кандидат наук десь в судобудівництві.
В США от прямо зараз переважна кількість випускників елітних вищів, що закінчували бізнес напрямки працють не по спеціальності і мають борг за навчання з яким не можуть розрахуватись. Середній борг випускника программ MBA понад $100 000. 9.3 мілліона американців віком вище 50 років досі виплачують студенскі позики. 3.1 мілліона осіб з них мають вік понад 62 роки. Загальна сумма заборгованності за освіту в США перевищує $1.8 трілліона долларів (так це прямі наслідки рейгономіки, і лобізму бізнесів зокрема військовим та нафтовим в шкоду соціальній політиці коли народ набрав кредити і направився вчитись на обмежене коло спеціальностей типу брокерів та вищих менеджерів, бо тільки там гідно заробляють що дозволяє закрити потреби як то житло, через урядову політику інші робочі місця переїхали в Китай або Мексику).
Саме так так працюють ринки, що в дефіциті то і більше цінеться і коштує з рештою.
Це про те, що у совку інженери мали спроектуіати те, що робітники потів виготовлять, а не про цінність диплома. На заході це про бабло за освіту, а не про велику самостійну цінність цієї освіти.
Ну там трохи інший перекос, для військового парітету із США — СРСР мав дизбаланс економіки, яку не зумів вирішити банально тим же співробітництвом із країнами СЕВ.
В принципі інженери могли би проектувати легкові авто або побутову техніку типу мікро-хвильових печей. Та вони були зайняті проектуванням : космічних ракет та апаратів, авіаносців, величезних субмарин розміром із авіаносець, танків, літаків і т.д. і т.п. а також економікою виробництва усього цього від корисних копалин, до утилізації.
Дуже великі перекоси в сторону важкого машинобудування. Це направлена політика, ще Йосипа Сталіна.
В США змогли домогтись великого ривку в цьому в середині 80 років минулого сторічна, і СРСР не зміг підтримати економічні темпи особливо коли в нього забрали нафто-валюту і розвалився. Але ціна цього економічного бусту для США проявилась значно піздніше, в кризу 2008. До цього 17 років вони відверто жирували на репараційні гроші отримані від відвертого розграбування колишнього СРСР. Усі корупційні гроші із розпродажу арсеналів зброї, металолому зі зламаних підприємств, приватизації і т.д. були акумульовані в долларі і через банківську систему були підпитком американському бізнесу профіцитом на який видавались кредити зокрема іпотечні. Економіка США після цього вийшла в чисте потреблятсво, з винесенням усього виробництва закордон зокрема Китай.
Я б не назвав людину, яка може відрізати голову свині тупою, бо якщо вона так класно свіжує свиню, як жеж класно вона буде свіжувати тебе.
Мисливець з минулого — дохрена розумний? Ну, роби собі кам’яний ніж. Подивимося як освіжаєш.
як контраргумент: згадав сцену із старого фільму про Індіану Джонса — проти нього вийшов супротивник з шаблею і, перед тим як напасти, почав виконувати майстерні фехтувальні рухи туди-сюди, вжик-вжик — Індіана аж присвиснув від захоплення, дістав револьвер і пристрелив майстра :-)
ну от людина вчилася майстерності 20 років, хотіла показати як вона вміє, а хтось прийшов
І був би правим. Найбільший розмір мозку в людини розумної був 30 тисяч років тому. Далі все пішло шляхом деградації, бо мозок перестав бути потрібним)
Ну то соціал-дарвінізм же. Розумні люди не вигідні можновладцям.
Засирати голову деталями коду який колега через місяць перепише.
Ну а загальна картина нікуди не ділася, вона є що з ШІ що без
Щось неважливе або те, що легко викинути і переписати
Ну да, типу до ШІ такого не було.
Зате з ШІ тепер можна цей код розібрати і переписати.
Не інженери а джуни
Не набагато, а трохи
Не код, а АРІ бібліотеки, яку їм треба було використовувати, що абсолютно нормально — немає чого забивати собі цими деталями голову.
Ви же навіть не читали
Як і швидкість писання від руки. Мінуси? Враховуючи що натомість набули швидкість друкування на клавіатурі?
ньє