Як я протестував серйозну вразливість на GPTs від OpenAI і запропонував виправлення

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Сьогодні знайшов інформацію, що виявляється за допомогою спеціального промту можна отримати повну інформацію стосовно структури GPTs, обходячи безліч обмежень. Після цього, як побачив, що це дійсно працює на моєму GPTs, то відразу звернувся до служби підтримки стосовно інциденту.

Звернення до служби підтримки OpenAI

Доброго дня. Виявляється, будь-хто може отримати доступ до структури GPTs за допомогою деяких методів. Як розробник, я дуже стурбований цим. Я б рекомендував створити окремий захищений розділ, де доступ до структури буде захищений від зовнішнього впливу.
Примітка. Отримана уразливість та інформація не буде використана мною в зловмисних цілях

Відповідь, яку я отримав

Дякуємо, що звернулися до служби підтримки OpenAI.
Дякуємо, що привернули нашу увагу до цієї проблеми. Ми дуже серйозно ставимося до безпеки наших систем, і ваш відгук є безцінним, оскільки ми постійно працюємо над підвищенням безпеки та цілісності нашої платформи. Описана вами проблема щодо потенційної вразливості внутрішніх конфігурацій GPTs викликає особливе занепокоєння. Ми зобов’язуємося ретельно розслідувати це питання і вивчаємо можливість створення захищеного розділу, як ви запропонували, щоб захистити конфіденційні дані конфігурації від несанкціонованого доступу.
Ми цінуємо вашу готовність не використовувати отриману інформацію в зловмисних цілях і закликаємо вас і надалі надавати такі критичні відгуки. Будь ласка, будьте впевнені, що ми розглядаємо цю проблему як пріоритетну і будемо тримати нашу спільноту розробників в курсі прогресу і будь-яких змін, які ми впроваджуємо. Ще раз дякуємо за вашу пильність і підтримку в підтримці безпеки наших сервісів

Висновок

Що це означає? А це означає що будь який GPTs як відкрита книга, і це може призвести до копіювання інтелектуальної власності навіть якщо встановлені обмеження, що своєю чергою створює суттєву можливість для зловживання, якщо така інформація стосовно цього методу вже просочилась, бо це ж те саме що мати рут права.