Конец анонимности ИИ: новые правила маркировки в Китае

Управление по делам интернета Китая ( CAC ) представило проект новых правил, направленных на регулирование маркировки ИИ-контента. Документ разработан с целью защиты нацбезопасности, общественных интересов, а также прав и законных интересов граждан, организаций и компаний.

Основная задача нового документа — создать единые стандарты маркировки контента, который генерируется или синтезируется с помощью ИИ. Проект правил определяет два вида маркировки:

• Явная маркировка — это те визуальные или аудиальные элементы, которые пользователи могут легко заметить в материалах, созданных ИИ. Это могут быть текстовые или графические значки, а также звуковые сигналы, указывающие на то, что контент был сгенерирован с использованием ИИ.
• Скрытая маркировка, в свою очередь, встраивается в метаданные файла и предназначена для более сложного обнаружения. Отметка включает такие данные, как атрибуты контента, имя или код провайдера услуги, а также номер файла.

В проекте правил отдельно выделено требование о том, что в случаях, когда пользователь загружает, копирует или экспортирует ИИ-контент, должны сохраняться все указанные метки и маркировки. Провайдеры услуг обязаны обеспечивать наличие таких меток на всех этапах взаимодействия с контентом.

Важно, что правила также касаются онлайн-платформ, которые распространяют контент в интернете. Сервисы должны проверять наличие метаданных с маркировкой и отображать соответствующую информацию для пользователей. Например, если платформа обнаруживает, что контент содержит скрытую маркировку, пользователям будет предоставляться явное уведомление о том, что перед ними материал, созданный с помощью ИИ. В случае, если маркировка отсутствует, но пользователь или провайдер услуг заявляют, что контент был сгенерирован ИИ, платформа также должна информировать об этом аудиторию.

Проект правил вводит ряд требований для сервисов, которые распространяют контент с использованием ИИ. Так, компании должны внедрять в свои системы инструменты, обеспечивающие корректное отображение маркировки на всех материалах. Например, для текстов и изображений маркировка должна располагаться в начале или конце файла, а в случае с видео — на начальных кадрах.

Платформы для распространения приложений также обязаны проверять наличие у разработчиков таких инструментов для обеспечения маркировки контента, прежде чем разрешать размещение программных продуктов на платформах.

Правила также требуют от компаний, предоставляющих услуги ИИ, включать в пользовательские соглашения информацию о методах и стандартах маркировки. Пользователи должны быть осведомлены о том, как именно маркируется контент, созданный с помощью ИИ, и какие обязательства на них возлагаются при использовании таких материалов.

Кроме того, пользователи, которые намерены распространять контент, созданный с использованием ИИ, обязаны самостоятельно указывать на его происхождение. Любые попытки удаления, изменения или сокрытия маркировки запрещены и могут повлечь за собой правовые последствия.

Заключительный раздел проекта правил устанавливает меры ответственности за нарушение данных требований. Компании, не соблюдающие правила маркировки, будут нести административную ответственность.

На текущий момент проект находится на стадии общественного обсуждения, которое продлится до 14 октября 2024 года, после чего документ будет доработан с учётом полученных замечаний. Новые правила вступят в силу после утверждения и публикации окончательного варианта документа.