Роскомнадзор ускорит блокировку сайтов с помощью технологий ИИ

Роскомнадзор планирует формировать и вести реестр заблокированных сайтов с применением ИИ. Технология будет работать на базе системы, через которую уже анализируются и классифицируются тексты в интернете. Через два года ведомство рассчитывает использовать такие технологии и для ведения реестра операторов персональных данных.

Из новой версии паспорта программы цифровой трансформации РКН следует, что ведомство с 2024 года будет формировать и вести реестр заблокированных в РФ сайтов с применением ИИ. Такую информацию содержат описания работ, связанных с единой информационной системой РКН (ЕИС) и информационной системой мониторинга интернет-ресурсов (ИС МИР). Согласно документу, в 2023 году реестр запрещенных сайтов велся без использования ИИ.

ИС МИР предназначена для отслеживания текстов с запрещенной информацией, их классификации по характеру (нейтральное, негативное или позитивное мнение автора) и поиска перепечаток. В прошлом году подведомственный Роскомнадзору ФГУП «Главный радиочастотный центр» объявлял тендер на интеграцию ИС МИР с другими системами, в том числе с ИС «Окулус», предназначенной для поиска изображений и символов.

Согласно документу, в 2023 году Роскомнадзор выявлял нелегальный контент в сети в течение трех часов после публикации, однако с внедрением ИИ ожидается сокращение этого времени до двух часов в 2024 году и до одного часа к 2026 году. Также ведомство намерено снизить долю ошибочно выявленных признаков нарушений в СМИ с 20% в 2023 году до 10% к 2026 году.

Эксперты отмечают, что применение ИИ вместо заданных алгоритмов обработки текстов позволит сократить объем человеческих ресурсов для обслуживания системы. Для этого необходимо обучить ИИ-модель на выборке материалов верифицированной и контролируемой оператором системы.

ИИ также позволит выявлять сложные контекстуальные связи между текстовыми фрагментами, находить скрытые закономерности и ассоциации. Кроме того, по мнению экспертов, технология может использоваться и для структурирования баз данных.

Глава департамента расследований T.Hunter Игорь Бедеров считает, что даже через два года доля выявляемого запрещенного контента, требующего дополнительной модерации человеком, вряд ли будет ниже 60%. Оценить же извне скорость работы системы, по его словам, затруднительно — аналитики исходят из сроков собственно блокировки контента: «В 2022 году блокировка отдельных сайтов с запрещенной информацией занимала до 50 дней».

В 2026 году Роскомнадзор также планирует наполнять с помощью ИИ реестр операторов персональных данных. Однако эксперты отмечают риск ложных обнаружений на начальном этапе.