OpenAI запустила программу Bug Bounty с вознаграждением до $20 000

Компания OpenAI объявила о запуске программы Bug Bounty , которая позволит исследователям кибербезопасности обнаруживать уязвимости в продуктах компании и получать оплату за сообщение о них через краудсорсинговую платформу Bugcrowd .

Размер вознаграждения зависит от уровня опасности и влияния ошибок и варьируется от $200 за незначительные проблемы до $20 000 за «исключительные открытия».

Однако несмотря на то, что API OpenAI и ChatGPT являются целями для багхантеров, компания попросила исследователей сообщать о проблемах модели через отдельную форму, если они не влияют на безопасность. Такое решение связано с тем, что проблемы безопасности модели не вписываются в программу Bug Bounty , поскольку они не являются отдельными ошибками, которые можно исправить напрямую

Другие возможные проблемы включают джейлбрейки и обходы средств безопасности, которые пользователи ChatGPT используют, чтобы заставить чат-бота игнорировать меры безопасности OpenAI.