Microsoft объявляет всеобщую охоту на баги в Bing-AI

Компания Microsoft объявила о запуске новой программы Bug bounty (системы вознаграждений), призванной устранить уязвимости в инструменте Bing на базе ИИ. За обнаруженные дефекты исследователи могут получить до 15 000 долларов.

Проект затрагивает следующие продукты:

• Bing в веб-браузерах: от чата для обычных пользователей на bing.com до бизнес-инструментов — Bing Chat for Enterprise и Bing Image Creator.

• Bing в Microsoft Edge: Bing- AI (в том числе сервис Enterprise) интегрированный в браузер Edge

• Microsoft Start: Bing- AI в приложении на iOS и Android.

• Skype для мобильных устройств: еще одно приложение с интеграцией Bing- AI для платформ iOS и Android.

На сайте проекта появилось официальное заявление: «Мы приглашаем профессионалов в области кибербезопасности из разных уголков мира принять участие в поиске уязвимостей в нашем инновационном продукте — Bing на базе ИИ. За отчеты о найденных проблемах исследователи могут получить от $2 000 до $15 000.»

Компания предлагает участникам программы сосредоточить свое внимание на проблемах, перечисленных в общем, официальном списке . Также приветствуются отчеты о любых багах, которые могут привести к следующим действиям злоумышленников:

• Манипуляциям с чатом Bing, которые могут повлиять на опыт большинства пользователей.

• Изменениям в настройках чата без соответствующих прав.

• Обходу системы безопасности, связанной с сохранением истории чатов и их удалением.

• Разглашению конфиденциальной информации, в том числе сведений о внутренних операционных процессах.

• Обходу установленных ограничений в чат-боте.

Некоторые дефекты, озвученные Microsoft, не входят в рамки программы. Например: потенциально опасные для самого атакующего дефекты, галлюцинации, неточные или оскорбительные ответы бота и другие.

Линн Мияшита, технический менеджер MSRC (Microsoft Security Response Center), заявляет: «Сотрудничество с исследователями в области кибербезопасности через программы вознаграждений является ключевым элементом комплексной стратегии Microsoft по защите наших клиентов от потенциальных угроз».

Это не первая Bug bounty от Microsoft. За последний год компания выплатила в общей сложности 13,8 миллиона долларов 345 экспертам из разных стран, которые помогли обнаружить около 1180 багов.