Google может сканировать Gmail и «Диск» на предмет запрещенного контента

За последние два десятилетия технологическим гигантам пришлось столкнуться с постоянно растущим потоком видео и изображений сексуального насилия над детьми на своих платформах. Крупнейшие компании пытаются найти и стереть со своих серверов не только откровенные фотографии и видео, но также карикатуры, изображающие сцены с участием детей. Об этом свидетельствует недавний ордер на обыск, согласно которому правоохранительные органы попросили компанию Google предоставить информацию о подозреваемом, предположительно владеющем такими анимациями, пишет Forbes.

Google обладает системами по борьбе с запрещенными материалами (Child Sexual Abuse Material, CSAM) и они могут выявлять незаконный контент, в том числе фотографии, видео или карикатуры. Как признали представители Google, компания может отслеживать запрещенный контент с помощью двух технологий.

Первая использует программное обеспечение, разработанное YouTube, которое ищет «хеши» ранее известного нелегального контента. Такие хеши представляют собой буквенно-цифровые представления файла. Например, компьютер может сканировать файлы в электронном письме Gmail сообщить о наличие файла с тем же хешем, что и у незаконной фотографии или видео.

Для этих целей Google также использует инструменты машинного обучения для сканирования и анализа файлов.

Неясно, какая из этих двух технологий использовалась в конце 2020 года в Канзасе, когда по просьбе правоохранителей Google провела проверку и обнаружила в принадлежащей известному художнику учетной записи в Google Диск запрещенный цифровой контент. В соответствии с юридическими требованиями, Google передал обнаруженную информацию, а также IP-адреса, используемые для доступа к изображениям, в Национальный центр пропавших без вести и эксплуатируемых детей (National Center for Missing & Exploited Children, NCMEC). Следователи использовали IP-адреса, предоставленные Google, чтобы идентифицировать подозреваемого как предполагаемого владельца контента и провели анализ его учетной записи Google.

В подобной ситуации могут оказаться некоторые художники которые рисуют или изображают обнаженные тела, пишет Forbes. Однако формулировки закона США о мультипликационных изображениях предоставляют некоторую защиту для тех, кто делится анимационными изображениями детей в сексуальном контексте ради искусства или науки. Прокурор, пытающийся осудить любого, кто владеет такими материалами, должен будет доказать, что соответствующие изображения были «непристойными» или не имели «серьезной литературной, художественной, политической или научной ценности».

Недавно Google сообщила об изменениях в механизме работы облачного хранилища Google Диск, направленных на ограничение доступа к файлам, нарушающих политику компании. Согласно новым правилам, нарушающие политику файлы будут помечены и автоматически ограничены. Это значит, что владелец не сможет ими делиться, даже если у другого пользователя будет ссылка. При этом у пользователей будет возможность сделать запрос о пересмотре решения.