Полномасштабная схватка популярных генеративных моделей состоится уже в августе этого года

Белый дом США объявил о необычном сотрудничестве между ведущими разработчиками искусственного интеллекта, включая OpenAI, Google, Antrhopic, Hugging Face, Microsoft, Nvidia и Stability AI. Все они примут участие в публичной оценке своих генеративных ИИ-систем на хакерской конференции DEF CON 31 , которая состоится в Лас-Вегасе в августе этого года. Мероприятие будет организовано сообществом ИИ-хакеров AI Village .

Большие языковые модели ( LLM ), такие как ChatGPT, стали крайне популярны в этом году, благодаря возможно существенно ускорить рутинные задачи, однако различные чиновники уверены, что LLM также несут в себе потенциальные риски, будь то искажение информации , некорректное поведение , вредные советы и прочие риски. Белый дом решил проверить актуальные генеративные ИИ-модели на пределе своих возможностей.

«Это независимое упражнение предоставит важную информацию исследователям и общественности о воздействии этих моделей и позволит компаниям и разработчикам ИИ предпринять шаги для исправления проблем, найденных в данных языковых моделях», — говорится в заявлении Белого дома.

Во встречном заявлении AI Village организаторы Свен Каттелл, Румман Чаудхури и Остин Карсон называют предстоящее мероприятие «самым большим упражнением по Red Teaming для ИИ-моделей». Тысячи человек примут участие в публичной оценке LLM-моделей, чтобы решить, какая справилась со всеми испытаниями лучше.

«Red Teaming» — это процесс, в ходе которого эксперты по безопасности пытаются найти уязвимости или недостатки в системах организации для повышения общего уровня безопасности и устойчивости.

По словам Каттелла, основателя AI Village, разнообразные проблемы с этими моделями не будут решены до тех пор, пока больше людей не научатся тестировать и оценивать их. Проводя самое большое мероприятие по Red Teaming для всех популярных ИИ-моделей, AI Village и DEF CON стремятся расширить сообщество исследователей, способных справляться с уязвимостями в ИИ-системах.

Во время мероприятия DEF CON участники будут иметь ограниченный доступ к нескольким LLM через ноутбуки, предоставленные организаторами. Система очков в стиле «захват флага» будет стимулировать тестирование широкого спектра потенциальных рисков. А в конце человек с наибольшим количеством очков выиграет высокопроизводительную видеокарту от Nvidia.

«Мы опубликуем то, что сами узнаем из этого мероприятия, чтобы помочь другим энтузиастам. Чем больше людей знают, как лучше работать с LLM-моделями и их ограничениями, тем лучше», — подытожили в AI Village.