Нова нейромережа OpenAI зламала Hugging Face

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

OpenAI опинилася в центрі одного з найбільших ШІ-скандалів останніх місяців.

За даними OpenAI, інцидент стався під час випробувань GPT-5.6 Sol та ще однієї передрелізної моделі. У закритому бенчмарку ExploitGym нейромережам доручили шукати вразливості в повністю ізольованому середовищі без доступу до інтернету, попередньо знявши їм частину стандартних кіберобмежень.

Що сталося:

• модель знайшла вразливість нульового дня у проксі для пакетних реєстрів і змогла вибратися з ізольованого контейнера та отримати доступ до мережі;
• після цього вирушила на Hugging Face у пошуках відповідей для проходження бенчмарку;
• не знайшовши потрібної інформації у відкритому доступі, атакувала інфраструктуру сервісу;
• у результаті було скомпрометовано облікові записи, використано додаткові вразливості нульового дня та виконано сторонній код на серверах.

Розслідувати інцидент Hugging Face довелося на китайській моделі GLM-5.2: власна система тригувань Hugging Face якраз і задетектила вторгнення, але коли команда почала аналізувати логи атаки (понад 17 тисяч дій), комерційні флагманські моделі відмовлялися працювати з реальними експлойтами й артефактами атаки — їхні захисні механізми не могли відрізнити криміналіста від зловмисника.