OpenAI заплатить до $20 000 за знайдені баги

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

У дописі, опублікованому у вівторок, OpenAI представила «Програму винагороди за баги», яка запрошує користувачів повідомляти про вразливості, помилки або недоліки безпеки, які вони знаходять у продуктах компанії. Компанія пропонує грошову винагороду в розмірі від $200 за «незначні» відкриття до $20 000 за «виняткові знахідки».

В OpenAI запускають програму, тому що переконані, що «прозорість і співпраця» мають вирішальне значення для усунення «вразливостей і недоліків», які виникають у будь-якій складній технології.

Щоб керувати процесом реєстрацій багів та отримання винагороди, OpenAI співпрацює з платформою Bugcrowd. На ній пропозиції користувачів щодо багів відхиляються або приймаються протягом двох годин. Декілька айтівців вже отримали винагороди.

На сторінці проєкту також присутній дисклеймер про помилки, які не будуть оплачені. Наприклад, OpenAI не заплатять за те, що хтось «змусить модель говорити погані речі» та «змусить модель написати шкідливий код».

Минулого місяця Грег Брокман, один з засновників OpenAI, також писав про це у своєму Twitter:

Democratized red teaming is one reason we deploy these models. Anticipating that over time the stakes will go up a *lot* over time, and having models that are robust to great adversarial pressure will be critical. Also considering starting a bounty program/network of red-teamers! t.co/9QfmXQi9iM

— Greg Brockman (@gdb) March 16, 2023