Xbox на страже комфорта: как ИИ борется с токсичностью в играх

Компания Xbox представила отчёт по прозрачности Fourth Transparency Report, в котором подробно описаны усилия по защите игроков и используемые меры против токсичности и вредных элементов.

В отчёте подчеркивается, что Xbox активно инвестирует в «ответственное применение ИИ» для улучшения системы выявления нарушений. Кроме того, в отчёте раскрывается, как недавно запущенные инструменты безопасности работают для улучшения дружелюбности игроков, включая новую функцию голосовых отчетов.

Одним из ключевых инструментов, использующих ИИ, является Auto Labeling, который помогает классифицировать текстовые сообщения, выявляя слова или фразы, соответствующие критериям потенциально вредного контента, что помогает модераторам быстрее обрабатывать ложные отчёты. Другой инструмент – Image Pattern Matching, который использует базы данных и техники поиска по изображениям для выявления потенциально вредного контента, что позволяет модераторам оперативно его удалять.

В отчёте приведены метрики успешности новых функций безопасности. Например, функция голосовых отчетов зафиксировала 138 000 записей. Из всех голосовых отчётов, приведших к наказаниям, 98% игроков не повторяли нарушение и не получали дальнейших предупреждений. Также в отчёте освещается система предупреждений, запущенная в августе 2023 года. 88% игроков, получивших предупреждение, не получали повторных наказаний. Данные отчёта показывают, что большинство нарушений связано с читерством или поддельными аккаунтами.

Компания также обсудила инновации в стратегиях обеспечения безопасности на будущее. В их число входит запуск семейного инструментария, который предоставляет родителям советы по использованию функций безопасности и семейных настроек Xbox. Кроме того, пользователям предоставляется возможность делиться информацией о своём игровом опыте через глобальный опрос по безопасности в интернете. Также в Minecraft Education введён детский урок по безопасности под названием «CyberSafe: Good Game», который предлагает образовательное приключение, направленное на обучение игроков в возрасте от 8 до 18 лет ответственности, инструментам и стратегиям для здорового онлайн-взаимодействия.

Xbox не только стремится создать безопасное пространство для своих пользователей, но и активно внедряет технологии и инструменты, способствующие уменьшению токсичности и улучшению опыта игры для всех. Инвестиции в искусственный интеллект и новые функции безопасности демонстрируют серьёзный подход компании к защите игроков и созданию благоприятной онлайн-среды.