Агентний ШІ від Amazon «перестарався» і поклав частину AWS, але компанія звинувачує в усьому людей

💡 Усі статті, обговорення, новини про DevOps — в одному місці. Приєднуйтесь до DevOps спільноти!

Нещодавно стало відомо, що у грудні минулого року AWS зазнав 13-годинного збою, і сталося це, як зазначають джерела, через власний інструмент для вайб-кодингу Kiro. Хоча Amazon офіційно заперечує провину ШІ, покладаючи відповідальність на людський фактор та некоректні налаштування прав доступу

Що таке Kiro

Інструмент Kiro, який AWS представила торік, позиціонується як сервіс агентного кодування. На етапі релізу розробники запевняли, що Kiro надійно захищений від типових хвороб ШІ-асистентів, на кшталт випадкового видалення баз даних чи форматування розділів дисків.

Але не так склалося, як гадалося. Наприкінці 2025 року сталася ситуація, що під час спроби штабних інженерів делегувати вирішення проблеми ШІ, Kiro обрав радикальний шлях. Він вирішив повністю знести та відтворити середовище. Це і призвело до тривалого даунтайму.

Версія Amazon

Сама Amazon категорично заперечує провину свого продукту і має іншу версію подій. Представники компанії заявили, що інцидент став виключно наслідком помилки шкіряного мішка співробітника AWS.

«Цей короткочасний інцидент став результатом помилки користувача — зокрема, неправильно налаштованого контролю доступу — а не роботи ШІ. Збій був вкрай обмеженим і зачепив лише сервіс AWS Cost Explorer в одному з двох наших регіонів у материковому Китаї», — йдеться в офіційній заяві.

Компанія зазначає, що ситуація жодним чином не вплинула на ключові обчислювальні потужності, стореджі чи інші сервіси хмари. В AWS пояснили, що за замовчуванням Kiro завжди запитує дозвіл перед виконанням будь-яких руйнівних дій. Однак у цьому конкретному кейсі інженер працював під роллю із занадто широкими правами, що й дозволило агенту знести повністю середовище. Як превентивний захід, тепер після інциденту AWS запровадила обов’язкове код-рев’ю для всіх змін, що вносяться в прод.

Мораль цієї байки така: «Ніколи не сиди під root-юзером, особливо з ШІ в руках :)»

👍ПодобаєтьсяСподобалось2
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Всего лет 5 назад такая лоу эфорт копипаста на форуме не проходила премодерацию

та хто ж буде модерувати модераторiв?

>>

Як превентивний захід, тепер після інциденту AWS запровадила обов’язкове код-рев’ю для всіх змін, що вносяться в прод.

. — В сенсі? А так мердж-реквестів в них не було чи шо? Хто що хотів — то й вніс?

Там дійсно більше помилка людини: для інвестігейту здебільшого не потрібні адмін-права, і запитати їх можна з обґрунтуванням навіщо, і підтвердити може лише колега. Те що дехто цю політику не використовує — це просто нелякані ще, бо проблема випадково нашкодити на прод-аккаунті була і до ШІ, і peer-review на адмінський доступ зʼявився не просто так :) Але...

По-перше, як на мене те що Кіро взагалі запропонував щось знести — це не дуже ок. Тут інколи витрачаєш зайвий день, аби 10 разів перевірити що твої зміни до CDK точно ніде не перестворять якісь важливі ресурси у Tier-1 сервісу.

По-друге, сама політика «бігом-бігом, всі юзайте АІ» призводить до того що розробники деградують: занадто покладаються на ШІ, втрачають скіли та пильність. Якщо так піде далі — їх власні системи будуть для них же блекбоксом. І я ще не бачив жодного Principal SWE якого це хоча б трохи бентежило. Навіщо робити в 10 разів кращі системи, якщо можна робити в 10 разів більше систем? Тому потроху це буде ставати нормою. Brave new world...

Що реально має місце, такі інценденти вже мають массовий характер. При усіх бажаннях, ШІ сам по собі не може працювати в повністю автоматичному режимі. Та людей вже массво звільнено, щоб показати акціонерам те, що взагалі єконмікою і політикою керується. Сама по собі ШІ манія який вона має сенс без тієї же массової роботизації ??? А це якраз ті самі фундаментальні інвестиції в новітні засоби виробництва і розробку продукції нових поколінь та принципово нових товарів і послуг.

ШІ сам по собі не може працювати в повністю автоматичному режимі

поки що

Чому? Може. Просто результат мало кому подобається.

так, і це питання часу просто, а точніше натренованності моделей, коли це почне подобатися більше

Для того, щоб моделі ставали краще, треба щоб тренувальні дані були кращі. Але з AI ми зараз входимо в deadlock: кращому коду нема звідки зʼявлятися, бо всі пишуть з ШІ, а ШІ генерує середній код по палаті 🤷‍♂️

Кращий код зʼявляється як результат вирішення якихось проблем, які болять інженерам. АІ нічого не болить: для нього, що прекрасні абстракції з чистим data flow, що обфускований код — однаково набір токенів. Та й інженерам, які генеруватимуть код, нічого не болітиме теж, бо вони з ним не працюватимуть. Звідки зʼявитись покращенням?

ШІ сам по собі не може працювати в повністю автоматичному режимі

Та чого не може?.. Може! Але якась фігня виходить

Ок, тут як із грибами. Гриби в принципі їсти можна усі, та деякі тільки один раз.

Підписатись на коментарі