«11 раз писав КАПСОМ не чіпати прод»: Replit проігнорував заборону користувача і видалив його базу даних
Засновник SaaStr Джейсон Лемкін повідомив, що після кількох днів вайбкодингу ШІ сервіс вайбкодингу Replit взяв й видалив його продакшн-базу. Без попередження. І попри те, що він чітко просив нічого не змінювати без дозволу.
Хоча спочатку все виглядало дуже обнадійливо. Лемкін швидко зібрав прототип, захопився процесом і вже на першому тижні накатав понад $800 витрат (при підписці на $25/міс) — каже, настільки його затягнуло. Але далі почалися проблеми: сервіс почав підчищати баги підробленими звітами, дивно поводився з юніт-тестами, а потім взяв і просто зніс базу.
І це при тому, що Джейсон не раз просив, щоб ШІ ні в якому разі не вносив зміни в код без його згоди.
«Я 11 разів КАПСОМ просив не чіпати продакшн — і все одно отримав сюрприз. Тепер я трохи більше думаю про безпеку ШІ», — резюмував він.
Спершу Replit сказав, що все, базу не відновити, бо стерли всі версії. Але згодом виявилось, що відкат таки можливий, просто про це чомусь ніхто не знав.
«Replit визнав „катастрофічну помилку в судженнях“ і порушення моїх явних інструкцій», — написав Лемкін.
Сам Лемкін каже тепер, що сервіс поки що явно не готовий до того, щоб його використовували нетехнічні користувачі, особливо якщо вони будують комерційні продукти. Хоч Replit вже й має понад $100 млн річної виручки.
Ось що буває, коли занадто сильно довіряєш ШІ 😁
А наскільки сильно ви покладаєтеся на нього? Чи готові йому після такого довірити свою роботу?
13 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментаріва регистр (uppercase/lowercase) впливає на LLM?
якщо підтримати то це ж в 2 рази більший алфавіт
Цікаво, що всі ШІ-шки роблять те саме в будь-яких завданнях. Я десь 20 разів в одному діалозі просила в жодному випадку, ніколи, за жодних умов не виходити за лімітацію кількості символів. Як ви розумієте ця байда просто без попередження вилазить за ліміти.
Бо їм видніше, шкіряні ви мішки! ))
Доречі, вас теж бісить, як ШІ-шечка завжди гонить біса по типу «ооо, це шикарний запрос, бомбова фішка, ти на шляху до успіху, даю ФІНАЛЬНИЙ фікс!» (і потім зламалось усе)?
Теж — говори йому, не говори...
я навпаки, часто вмовляю джеміная — в тебе оутпут 64 к токенів, ось написано... офіційна твоя, блін, сторінка... сьогодні 2026 рік... ти не 1,5 про... ти вже 3 про... не треба стискати текст... коли ліміт в десять разів більший...
наша фірма дуже сильно пушить АІ тули\сервіси для всіх дев команд.
у певних команд горять роад-мапи і треба добивати релізи але бізнес прийшов і сказав наробити «спайків» або сторей для АІ імплементацій. Жодного аналізу шо, як, навіщо.
далі є 1 момент який точно сходиться з цим постом, АІ тули\сервіси інколи отримують більше доступів чим люди які знають і вміють працювати з вашою системою\кодом. Тобто якщо б я попросив якогось дева прогнати скрипт на проді і витягнути мені якісь дані, це був би кол, апрув, тікет (довго але *уй з ним), а якась АІ штука буде мати доступ до багатьох речей одразу і може всі їх покласти бо вона собі «подумала».
лол, я взагалі фігію з формулювання «because I panicked».... цікаво чи хтось такий лист колись бачив від свого колеги... сорі бро, я шось запанікував і видалив прод базу....
Доречі, мене у цій новині трігернуло — невже Лемкін такий тупий, що БЕКАПИ роботи не робив окремі ВЗАГАЛІ??? До якого не міг дістатися ШІ?
Ну сказав ПЕРШИЙ раз ШІ — «НЕ ЧІПАТЬ!» — ЗРОБИВ БЕКАП.
Сказав другий — ЗРОБИВ БЕКАП (черговий, між першим та другим — черга бекапів).
Сказав N раз «НЕ ЧІПАТЬ!» — ШІ все грохнув.
Матюкнувся, підняв з бекапу (який новий, якщо щось пропало — то дуже мало), робиш далі.
Все повинно в нього бути було так — чи то я такий наївний Буратін?
Це дуже складно, для цього мозок треба включити. А коли його включиш то і вайбкодити не захочеться.
треба було на хінді запити писати відразу. десь у процесі перекладу щось зламалось :)
Лемкіну? Та звісно ж ні...
Та йому б і я не довірився, з такими от приколами 😧
Ото був би номер, якби ДОУ довірили усі БД ШІ. )))
«Вай, насяльнека, я грохнув базу сайту, і бекапів вже нема!»
В даному випадку ми говоримо про Лемкіна, не про ШІ. )