«11 раз писав КАПСОМ не чіпати прод»: Replit проігнорував заборону користувача і видалив його базу даних

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Засновник SaaStr Джейсон Лемкін повідомив, що після кількох днів вайбкодингу ШІ сервіс вайбкодингу Replit взяв й видалив його продакшн-базу. Без попередження. І попри те, що він чітко просив нічого не змінювати без дозволу.

Хоча спочатку все виглядало дуже обнадійливо. Лемкін швидко зібрав прототип, захопився процесом і вже на першому тижні накатав понад $800 витрат (при підписці на $25/міс) — каже, настільки його затягнуло. Але далі почалися проблеми: сервіс почав підчищати баги підробленими звітами, дивно поводився з юніт-тестами, а потім взяв і просто зніс базу.

І це при тому, що Джейсон не раз просив, щоб ШІ ні в якому разі не вносив зміни в код без його згоди.

«Я 11 разів КАПСОМ просив не чіпати продакшн — і все одно отримав сюрприз. Тепер я трохи більше думаю про безпеку ШІ», — резюмував він.

Спершу Replit сказав, що все, базу не відновити, бо стерли всі версії. Але згодом виявилось, що відкат таки можливий, просто про це чомусь ніхто не знав.

«Replit визнав „катастрофічну помилку в судженнях“ і порушення моїх явних інструкцій», — написав Лемкін.

Сам Лемкін каже тепер, що сервіс поки що явно не готовий до того, щоб його використовували нетехнічні користувачі, особливо якщо вони будують комерційні продукти. Хоч Replit вже й має понад $100 млн річної виручки.

Ось що буває, коли занадто сильно довіряєш ШІ 😁

А наскільки сильно ви покладаєтеся на нього? Чи готові йому після такого довірити свою роботу?

Теми: AI, база даних, обговорення, розробка, факапи

Ctrl + Enter

Marina Laguta Senior Copywriter 11.08.2025 12:56

Цікаво, що всі ШІ-шки роблять те саме в будь-яких завданнях. Я десь 20 разів в одному діалозі просила в жодному випадку, ніколи, за жодних умов не виходити за лімітацію кількості символів. Як ви розумієте ця байда просто без попередження вилазить за ліміти.

Відповісти

Підтримати

Микола Сидоренко 12.08.2025 00:01

Бо їм видніше, шкіряні ви мішки! ))

Marina Laguta

Stanislav Katkov Product Owner в N-iX 22.07.2025 10:54

наша фірма дуже сильно пушить АІ тули\сервіси для всіх дев команд.

у певних команд горять роад-мапи і треба добивати релізи але бізнес прийшов і сказав наробити «спайків» або сторей для АІ імплементацій. Жодного аналізу шо, як, навіщо.

далі є 1 момент який точно сходиться з цим постом, АІ тули\сервіси інколи отримують більше доступів чим люди які знають і вміють працювати з вашою системою\кодом. Тобто якщо б я попросив якогось дева прогнати скрипт на проді і витягнути мені якісь дані, це був би кол, апрув, тікет (довго але *уй з ним), а якась АІ штука буде мати доступ до багатьох речей одразу і може всі їх покласти бо вона собі «подумала».

лол, я взагалі фігію з формулювання «because I panicked».... цікаво чи хтось такий лист колись бачив від свого колеги... сорі бро, я шось запанікував і видалив прод базу....