Mythos не така вже й захищена? До секретної моделі Anthropic дісталась група експериментаторів

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Група сторонніх користувачів змогла отримати доступ до нової моделі Mythos від Anthropic, хоча компанія запускала її в закритому режимі лише для обмеженого кола партнерів. Про це Bloomberg повідомили власні джерела.

Що сталося

Нібито кілька людей із приватного Discord-каналу отримали доступ до моделі в той самий день, коли Anthropic вперше оголосила про намір відкрити її для тестування лише окремим компаніям. Відтоді вони користувалися Mythos регулярно, але не для кібератак.

Цих людей цікавило не зловживання моделлю, а сам факт доступу до нової системи. Вони не запускали на Mythos запити, пов’язані з кібератаками, а давали їй простіші завдання — наприклад, просили створювати нескладні сайти, щоб не привертати увагу Anthropic.

Bloomberg пише, що джерело підтвердило історію скриншотами та живою демонстрацією роботи моделі.

Як це вдалося

Щоб дістатися до Mythos, учасники групи зробили обґрунтоване припущення щодо того, де саме модель розміщена онлайн. Вони орієнтувалися на формат, який Anthropic раніше використовувала для інших моделей. Додаткову інформацію отримали після нещодавнього витоку даних із Mercor — стартапу, який займається навчанням AI та працює з кількома великими розробниками.

Група також використала доступ, який мав один з учасників як працівник стороннього підрядника Anthropic. Крім того, вони застосовували звичні інструменти онлайн-розвідки, зокрема ботів, які шукають дані на незахищених сторінках та в репозиторіях на кшталт GitHub.

Що каже Anthropic

Anthropic підтвердила, що перевіряє повідомлення про несанкціонований доступ до Claude Mythos Preview через середовище одного зі сторонніх підрядників. Водночас компанія заявила, що поки не має доказів того, що доступ вийшов за межі цього зовнішнього середовища або зачепив власні системи Anthropic.

Нагадаємо, через потужність нової моделі Anthropic намагалася максимально обмежити доступ до неї та відкрила тестування лише для перевірених великих компаній на кшталт Apple, Google, Microsoft, Amazon.

Як думаєте, як довго компанії вдасться обмежувати доступ до Mythos та чи буде більше подібних історій?