Киберпреступники обучили ИИ хакингу: создано альтер-эго ChatGPT

Согласно отчету компании SlashNext, злоумышленники используют технологии генеративного искусственного интеллекта для подготовки и реализации BEC-атак (Business Email Compromise). Для этого используется инструмент под названием WormGPT, разработанный специально для злонамеренных действий.

WormGPT обучен на различных данных, связанных с вредоносными программами. Нейросеть создает максимально правдоподобный текст, который не отличим от человеческого, и может создавать убедительные поддельные письма. Инструмент позволяет хакерам создавать фишинговые письма без необходимости хорошо знать язык.

WormGPT рекламируется на хакерском форуме

По словам исследователей, WormGPT способен не только воспроизвести убедительный тон, но и проявить «стратегическую хитрость», что говорит о его способности организовывать сложные фишинговые атаки и BEC-атаки.

Эксперты отметили, что WormGPT похож на ChatGPT , но без этических рамок или ограничений. Отчет также раскрывает, что киберпреступники с помощью специально созданного джейлбейка (jailbreak) манипулируют интерфейсами генеративного ИИ, чтобы создавать информацию, которая может включать разглашение конфиденциальной информации, производство неуместного контента или даже выполнение вредоносного кода.

Наглядный пример работы WormGPT

В SlashNext заявили, что злоумышленники теперь могут осуществлять такие атаки в больших масштабах и без затрат, при этом атаки могут быть «более точными», чем раньше. Теперь, если у хакеров не получается атака с первой попытки, они могут попробовать снова с новым контентом. Исследователи уверены, что атакам с использованием ИИ можно противостоять с помощью защитных мер, также основанных на ИИ.

В январе группа ученых провела первую в мире кибератаку с использованием ИИ для создания вредоносного кода, которая может позволить злоумышленнику собирать конфиденциальную информацию и проводить DoS-атаки.