Несогласованное ИИ-видео: кибербуллинг нового поколения

Развитие генеративных моделей видео привело к появлению новых инструментов, позволяющих создавать короткие ролики на основе одного изображения и текстового описания. Однако отсутствие базовых ограничений на использование таких сервисов стало причиной массового распространения несогласованных интимных видео. Расследование 404 Media выявило, что целая экосистема, ранее сложившаяся вокруг генерации изображений, теперь перенесена и в сферу ИИ-видео, позволяя создавать интимные ролики людей без согласия всего за несколько секунд.

Большая часть этих сервисов разработана китайскими компаниями, включая Pixverse (от AIsphere), Hailuo (от Minimax) и KlingAI (от Kuaishou). Эти генераторы используются для создания видео, в которых знаменитости якобы раздеваются или совершают сексуальные действия. В качестве исходных материалов злоумышленники используют фотографии, взятые из соцсетей, с красных дорожек или других публичных источников. В некоторых случаях сначала генерируется несогласованное интимное изображение, а затем оно превращается в анимированное видео.

Методы обхода встроенных фильтров напоминают те, что использовались при создании откровенных изображений с помощью Microsoft Designer. Пользователи формулируют запросы так, чтобы избежать блокировок, используя описания сексуальных действий без явных запрещенных терминов. Такая же тактика применялась при создании скандальных изображений Тейлор Свифт в начале 2024 года.

Среди особенно популярных сервисов выделяется Pixverse, который создан бывшим главой визуальных технологий ByteDance Ваном Чанху. Платформа используется для генерации видео, в которых женщины снимают одежду. Другие инструменты имеют свои «специализации»: Hailuo помогает создавать видео, где персонажи обнажаются и танцуют, а KlingAI – анимировать непристойные изображения, превращая их в видеоролики с порнографическими элементами. Однако после волны жалоб разработчики KlingAI ввели более жесткие ограничения, что затруднило использование сервиса для подобных целей.

Сообщества, занимающиеся генерацией таких видео, постоянно мигрируют от одной платформы к другой, находя уязвимости в алгоритмах или используя новые модели без защитных механизмов. На данный момент волна пользователей перешла на ИИ-генератор Pika, позволяющий создавать интимные видео. Примечательно, что сервис доступен в магазинах приложений Apple и Google, несмотря на явные нарушения политик компаний.

Ситуация усугубляется появлением открытых ИИ-моделей, например, HunyuanVideo от Tencent, которую пользователи быстро модифицировали для создания порнографического контента. На платформе Civitai уже появились модели, предназначенные для генерации интимных видео с известными актрисами, стримерами и блогерами. Аналогичная судьба постигла и Wan 2.1 от Alibaba – всего через 24 часа после выхода модель начали адаптировать для создания порнографических роликов.

Несмотря на публичные заявления разработчиков о запрете использования своих технологий для создания незаконного контента, в реальности они не предпринимают активных мер для пресечения таких действий. Тем временем сенатор США Дик Дурбин призывает к принятию закона DEFIANCE Act , который позволит жертвам добиваться ответственности для создателей несогласованных видео. А специалисты настаивают на внедрении жестких фильтров и ограничений, а также на блокировке финансовых транзакций для сервисов, нарушающих этические нормы.

Отсутствие регулирования и технических барьеров привело к тому, что производство несогласованных интимных видео стало проще и доступнее, а жертвы столкнулись с новыми угрозами . Пока технологические компании и власти не выработают жесткие меры по пресечению подобных злоупотреблений, проблема будет лишь нарастать.