Эксперимент Say No To Disinfo: ИИ может уничтожить банки

Британская исследовательская группа Say No To Disinfo совместно со специалистами по коммуникациям Fenimore Harper провела эксперимент, демонстрирующий, как искусственный интеллект может быть использован для организации дезинформационных атак, способных привести к финансовой нестабильности. В ходе исследования была смоделирована ситуация, при которой массовое распространение слухов могло спровоцировать отток депозитов из банков.

В рамках эксперимента 500 клиентов одного из британских банков подверглись целенаправленному информационному воздействию. Синтетические сообщения, созданные ИИ, эксплуатировали существующие страхи и убеждения, убеждая пользователей в том, что их сбережения находятся под угрозой. Дезинформация распространялась в основном через социальную сеть X (бывший Twitter) с помощью постов и мемов.

Результаты оказались тревожными: 61% участников, ознакомившись с ложными сведениями, выразили готовность снять деньги со счета. Среди них 33% были уверены в таком решении, а еще 27% сочли это вероятным. Анализ показал, что всего £10 (около $13), потраченные на генерацию ИИ-контента, могут привести к перемещению активов на сумму £1 млн.

Авторы исследования подчеркивают, что подобные дезинформационные атаки могут осуществляться быстро, с минимальными затратами и представляют серьезную угрозу для финансовой системы. При этом многие банки не обладают инструментами для своевременного обнаружения подобных угроз и реагируют на них уже постфактум.

Эксперты рекомендуют финансовым учреждениям уделять больше внимания мониторингу доверия клиентов, выявлению возможных злоумышленников и проведению стратегических симуляций, помогающих подготовиться к подобным атакам. Они настаивают на разработке защитных мер, которые позволят противостоять распространению ИИ-генерируемой дезинформации и снизить риски финансовых кризисов, вызванных манипуляциями в цифровом пространстве.