TikTok: аватары с ИИ генерируют видео с лозунгами Гитлера и призывами пить отбеливатель

TikTok случайно опубликовал ссылку на внутреннюю версию своего нового инструмента для создания цифровых аватаров с искусственным интеллектом без ограничений, что позволило пользователям создавать видео с любым содержанием. Первой на это обратила внимание CNN , которая смогла создать видео с цитатами Гитлера и сообщениями, призывающими людей пить отбеливатель, среди прочих фраз. TikTok с тех пор удалил эту версию инструмента, в то время как планируемая версия остается доступной.

Запущенные ранее на этой неделе цифровые аватары Symphony от TikTok позволяют бизнесам создавать рекламу с использованием образов оплаченных актеров. Этот инструмент также использует ИИ-технологии для озвучивания, что позволяет рекламодателям вводить сценарий, чтобы аватары говорили то, что нужно, в рамках правил TikTok. Хотя доступ к этому инструменту имеют только пользователи с аккаунтом TikTok Ads Manager, версия, обнаруженная CNN, позволяла любому пользователю с личным аккаунтом попробовать её.

В заявлении представитель TikTok Лаура Перес сообщила, что TikTok устранил «техническую ошибку», которая «позволила очень небольшому числу пользователей создавать контент с использованием внутренней тестовой версии инструмента в течение нескольких дней».

Когда CNN обнаружила внутренний инструмент, она смогла создать видео с текстом из «Письма к Америке» Усамы бен Ладена, лозунгами белых супрематистов и видео, призывающими голосовать в неправильный день. Ни одно из созданных CNN видео не имело водяного знака, указывающего на то, что видео создано ИИ, что присутствует в правильной версии цифровых аватаров Symphony от TikTok.

CNN не публиковала созданные видео в TikTok, но Перес отметила, что если бы это произошло, контент был бы отклонен за нарушение политик платформы. Хотя TikTok уже удалил эту версию своего инструмента, остается вопрос, найдут ли люди другие способы злоупотреблять создателем цифровых аватаров и готов ли к этому TikTok.