Голос президента, печать штата: анатомия цифрового мошенничества в соцсетях

На верифицированной странице метеоролога Fox News Адама Клотца в декабре начали появляться странные рекламные объявления. Эти видеоролики, где использовался голос, имитирующий речь известных политиков, привлекали пользователей заманчивыми обещаниями. Одни объявления, якобы от лица Дональда Трампа, предлагали «6 400 долларов, без возврата» за клик и заполнение формы, другие — от имени Джо Байдена — заверяли, что это не займ, а «гарантированная поддержка». Однако обещанных денег не существовало: голос был сгенерирован искусственным интеллектом, а формы собирали личные данные, которые затем продавались компаниям и могли использоваться как для законных предложений, так и для мошенничества.

Сотни этих объявлений вышли до тех пор, пока журналисты не обратились к Клотцу в августе. По словам метеоролога, его страница была взломана, и доступ к ней он потерял, а о наличии рекламы узнал лишь от журналистов. Страница Клотца оказалась частью обширной сети Patriot Democracy, которая годами использовала платформу Facebook для публикации дезинформации и мошеннической рекламы. Несмотря на обещания Meta защищать пользователей от вредоносного контента, сеть успела разместить на Facebook порядка 100 000 вводящих в заблуждение объявлений на социальные и политические темы.

Расследование ProPublica и Центра цифровой журналистики Колумбийского университета выявило не только сеть Patriot Democracy, но и семь других рекламных сетей, которые размещали фальшивые объявления. Вместе они контролировали более 340 страниц на Facebook, а также связанные аккаунты на Instagram и Messenger. Часть страниц была создана рекламными агентствами, другие представляли собой взломанные аккаунты известных личностей. Эти сети разместили свыше 160 000 объявлений на английском и испанском языках, которые, по данным Meta, были показаны пользователям почти 900 миллионов раз.

Финансовый результат этих кампаний — лишь небольшая часть от 115 миллиардов долларов ежегодной рекламной выручки Meta. Тем не менее, совокупный объем расходов на рекламу со стороны этих сетей превысил 25 миллионов долларов, что делает их одним из крупнейших рекламодателей на платформе по темам, связанным с выборами и социальными вопросами. При этом Meta не удалось своевременно блокировать множество таких объявлений, что подчёркивает проблемы компании в борьбе с обманными политическими кампаниями.

В основном сети управляются компаниями, занимающимися сбором и продажей персональных данных пользователей. Люди, которые нажимали на такие объявления, часто оказывались подписанными на услуги с ежемесячной оплатой. Некоторые мошенники, например, получали комиссии, меняя медицинские планы пользователей в системе ACA (Affordable Care Act), из-за чего у людей могли возникать неожиданные налоговые обязательства или даже проблемы с медицинским страхованием.

Мошенники часто использовали методы, запрещённые Meta, такие как deepfake -видео и аудио с известными политиками, чтобы заманить людей на страницы с формами для сбора личных данных. Тысячи объявлений незаконно демонстрировали копии печатей штатов или изображали государственных деятелей, что должно было создать у пользователей иллюзию легитимности предложений. Одно из таких объявлений, например, обещало жителям Иллинойса «страхование похоронных расходов до 35 000 долларов» с использованием фотографии губернатора Джей Би Притцкера и печати штата.

Несмотря на попытки Meta бороться с фальшивыми объявлениями, в большинстве случаев блокировка таких страниц и объявлений была непоследовательной. Meta требует, чтобы политическая реклама содержала информацию о том, кто её оплатил, однако компании сети Patriot Democracy и других нарушителей обходили это правило, указывая вымышленные названия и несуществующие организации.

В ответ на запросы журналистов Meta отметила, что продолжает совершенствовать системы для выявления и блокировки мошеннической рекламы. Однако внутренний анализ показал, что более 50% страниц и рекламных объявлений, нарушающих правила, оставались активными, а в случае их удаления сеть продолжала создавать новые страницы и размещать аналогичную рекламу.

Одним из наиболее распространённых инструментов сети Patriot Democracy были объявления, предлагающие продукцию с символикой Трампа. Одна из таких страниц привлекла внимание жителя Техаса Сэма Роберсона, который оплатил монеты с изображением Трампа, а затем обнаружил, что его карту начали списывать ежемесячные суммы, на которые он не подписывался.

Поддельные объявления Patriot Democracy нередко представлялись правительственными программами с обещанием бесплатного медицинского страхования, что заставляло многих пользователей подписываться на нежелательные услуги. В результате люди теряли уже существующие медицинские программы или получали налоговые счета от IRS из-за неправомерного изменения их доходов. Эти схемы привели к новым правилам в Центре Medicare и Medicaid Services, усложнившим работу агентам по страхованию, однако сети вроде Patriot Democracy по-прежнему продолжают использовать Facebook для привлечения жертв.

Многие штаты и округа США начали принимать самостоятельные меры, поскольку Meta не всегда способна обеспечить своевременную блокировку таких объявлений. В начале 2023 года департамент страхования Аляски получил жалобы на объявления с использованием государственной печати и изображением губернатора, якобы предлагающие новые пособия на похороны. Сотни таких фальшивых объявлений с печатями штатов были размещены по всей стране, что стало объектом расследований и судебных исков.

Компания Meta* и ранее сталкивалась с критикой из-за неспособности предотвратить дезинформацию, особенно в период выборов. Платформа уже создала публичную библиотеку рекламы и ужесточила правила для рекламодателей на политические и социальные темы, но проблема остаётся актуальной.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.