Новий термін «Claude Hole», або що нас чекає найближчим часом (якщо не вже)
Натрапив на Reddit на файний пост про те, що нас чекає найближчим часом (або вже непомітно підкралося). У ньому автор ділиться історією, через яку в них на роботі з’явився новий термін — Claude Hole.
Це термін, який описує ситуацію, коли інженер працює з LLM, дебажить або пише код, не до кінця розуміючи, що відбувається, і в результаті йде зовсім не в той бік від реальної проблеми. Начебто починалося з дрібної помилки, а закінчилося масштабними змінами, які взагалі не мали стосунку до першопричини.

В оригінальному пості все почалося з банальної помилки в конфігурації. Інженер неправильно вказав AWS account ID в анотації service account у CNPG-шаблоні, в результаті чого кластер сипав IAM-помилками. Але замість точкового фіксу людина з допомогою LLM дійшла до радикального рішення — відкрила PR із заміною OIDC для кожного service account в усій організації. PR, звісно, заблокували, а SRE ще довго намагалися зрозуміти логіку цього рішення.
А ви вже потрапляли в «пастку Клода»? Як вибиралися з неї? Чи сильно ШІ вам пришвидшує роботу, чи все-таки зазвичай лише водить манівцями?

32 коментарі
Додати коментар Підписатись на коментаріВідписатись від коментарів