Северная Корея использовала ChatGPT для создания невидимого кибероружия

OpenAI заблокировала несколько аккаунтов северокорейских хакерских групп, использовавших ChatGPT для разведки целей и поиска способов взлома сетей.

Компания сообщила в февральском отчёте по кибер угрозам , что некоторые из учетных записей использовали ChatGPT в тактике, схожей с известной группой VELVET CHOLLIMA (Kimsuky, Emerald Sleet), а другие могли быть связаны с группировкой STARDUST CHOLLIMA (APT38, Sapphire Sleet).

Заблокированные аккаунты использовались для поиска информации о криптовалютах — одной из ключевых тем, интересующих северокорейских хакеров . Кроме того, злоумышленники запрашивали код для обхода защитных механизмов и использовали ChatGPT для написания и отладки вредоносных программ, предназначенных для атак с применением протокола RDP.

Киберпреступники пытались находить уязвимости в различных приложениях, разрабатывать инструменты для фишинга и социальной инженерии, а также создавать вредоносные PowerShell-скрипты. Кроме того, хакеры использовали ChatGPT для генерации обфусцированного кода и маскировки вредоносных файлов.

Одной из интересных находок стали ссылки на сайты, где размещались неизвестные ранее вредоносные бинарные файлы. Хакеры оставили ссылки во время отладки местоположений точек расширения автозапуска ( ASEP ) и методов атак на macOS. Данные были переданы в онлайн-сервис сканирования, чтобы упростить обмен с сообществом безопасности и предотвратить потенциальные атаки.

Помимо этого, OpenAI выявила, что северокорейские хакеры могли использовать ChatGPT для выполнения рабочих задач в рамках схемы трудоустройства IT-специалистов . Злоумышленники находили работу в западных компаниях, затем использовали ИИ для программирования и общения с коллегами, а также придумывали правдоподобные объяснения для сокрытия своего реального местоположения и избегания видеозвонков.

С октября 2024 года OpenAI также заблокировала две операции, связанные с Китаем. Одна из них, Peer Review, была направлена на разработку инструментов для кибер шпионажа , а другая — Sponsored Discontent — использовала ChatGPT для создания антиамериканского контента на испанском языке.

В предыдущем отчёте OpenAI заявила, что с начала 2024 года пресекла более 20 киберопераций и скрытых информационных кампаний иранских и китайских хакеров.