ШІ пише небезпечний код! 🤯

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Таке дослідження провела Veracode — це платформа для аналізу безпеки застосунків. Було протестовано понад 100 LLM-моделей, щоб дізнатися, наскільки безпечним є код, який вони генерують.

Результати не дуже:
🔻 45% згенерованого коду провалили базові тести безпеки й містили вразливості з OWASP Top 10.
🔻 Найгірші справи з Java — 72% коду з помилками безпеки.
🔻 Python — 38%, JavaScript — 43%, C# - 45%.
🔻 Найчастіша проблема — XSS (CWE-80). У 86% випадків ШІ не впорався з нею.

Що це означає для розробників і компаній?🤔

👉 ШІ вже зараз використовується у коді, навіть якщо ви цього не знаєте: у бібліотеках, у low-code рішеннях, у коді підрядників.

👉 Якщо не перевір

яти цей код, ви наражаєте себе на ризик витоку даних, репутаційних втрат і юридичних проблем.

Швидкість без безпеки — це компроміс, який у 2025 році вже є неприпустимим, адже тим самим ШІ автоматизуються й атаки на ваш бізнес.

Звісно, багато розробників почали з цього насміхатися.🤦‍♂️

Але є один нюанс, шановні: якби ви самі завжди писали код із дотриманням так званих «best security practices», то у тих же пентестерів ніколи не було б роботи.🤷‍♂️

Ну і, скажімо прямо, ШІ пише код, ґрунтуючись на вашому промпті. Тобто ті розробники чи «вайб-кодери», які створюють застосунки за допомогою ШІ, часто самі не розуміють, що пишуть вразливий код навіть без участі ШІ.🤷‍♂️

Тому послуги пентестерів будуть на вагу золота, адже поки що ані ШІ, ані автоматизовані платформи не можуть замінити живу людину.🫡

Усім продуктивного дня!🫡