Клин клином: США планирует использовать технологию Deepfake для борьбы с дезинформацией

В то время как правительство США регулярно предупреждает о риске технологии Deepfake и открыто работает над созданием инструментов для противодействия им, один из документов от Командования специальных операций США (SOCOM), представляет собой почти беспрецедентный случай, когда американское правительство открыто сигнализирует о своем желании использовать крайне противоречивую технологию в наступательных целях.

Deepfake — это технология генерации поддельных видео, в которых лица людей могут очень правдоподобно заменяться на чужие при помощи искусственного интеллекта. При грамотном подходе к процессу Deepfake-специалисты могут создать крайне реалистичные и вводящие в заблуждение материалы, на которых, например условный политический лидер говорит или делает то, чего никогда не позволил бы сделать реальный человек, занимающий эту должность. Вот небольшой пример , как реалистично может выглядеть грамотно созданный Deepfake-ролик. Технология имеет огромный потенциал в создании фальшивых новостей, которые можно использовать для политических манипуляций.

В отчёте The Intercept подробно описывается недавнее открытие, которое было обнаружено экспертами в одном из файлов правительственных контрактов SOCOM, содержащем различные гаджеты и методы, которые спецназ планирует использовать в своих военных наступательных кампаниях. Основное внимание в этом документе уделяется созданию поддельных видеороликов и их распространению в иностранных средствах массовой информации. Согласно планам американского правительства, это будет новая эра информационного противостояния с использованием всех возможностей современного Интернета.

В документе также упоминается возможность предварительного взлома правительственных и прочих иностранных учреждений, а также продолжительного отслеживания новостного потока для генерации таких материалов, в которое местное население безоговорочно поверит, приняв за чистую правду.

Эксперты и прочие люди, тесно знакомые с Deepfake, уже активно выступают против планов правительства США использовать эту технологию в своих кампаниях. С бурным развитием искусственного интеллекта и нейросетей людям и так нелегко отделять правдивую информацию от ложной, а когда производство Deepfake-видеороликов поставят на поток, даже подумать сложно, к чему это может привести.

«В то время, когда цифровая пропаганда набирает обороты во всем мире, США должны делать всё возможное для укрепления демократии, добиваясь поддержки общих представлений об истине и реальности. Deepfake-подделки для этого явно не предназначены. Ставя под сомнение достоверность всего контента и информации, будь то реальной или синтетической, они в конечном итоге подрывают основы самой демократии», — заявила Крис Мезерол, глава Инициативы Брукингского института по искусственному интеллекту и новым технологиям.

Одно можно сказать точно, массовое распространение Deepfake-видеороликов в сети точно не поспособствует большему доверию со стороны простых американских граждан, особенно если и политические соперники США тоже начнут применять подобные методы дезинформации. Тогда лишь вопросом времени станет то, когда Интернет и СМИ превратятся в одно большое кладбище ложной информации и рассадник онлайн-пропаганды.