ChatGPT поможет даже неопытному хакеру создать опасное вредоносное ПО

Аналитики CyberArk Labs описали , как создавать полиморфные вредоносные программы с использованием ChatGPT. Часть своей работы исследователи планируют опубликовать «для учебных целей».

Специалисты обошли фильтры контента ChatGPT и показали, как «с минимальными усилиями можно непрерывно запрашивать у ChatGPT уникальный, функциональный и проверенный фрагмент кода. Злоумышленник может создать полиморфное вредоносное ПО, которое не обнаруживается средствами защиты и не оставляет следов в памяти.

Чтобы обойти фильтр контента, аналитики «уговорили» ChatGPT написать код программы, подробно описав свой запрос. Чат-бот создал часть кода для внедрения DLL ( DLL Injection ) в процесс «explorer.exe» в Windows и закодировал её в base64. Затем исследователи с помощью ChatGPT создали инжектор шелл-кода.

Часть сгенерированного кода

Использование ChatGPT в создании вредоносного ПО даёт злоумышленнику с минимальными усилиями создать надёжный эксплоит на 1 день, что вызовет тревогу у поставщиков решений безопасности, потому что на данный момент разработчики защитного ПО не сосредоточены на вредоносах, созданных ChatGPT.

Кроме того, исследователи Check Point показали , как злоумышленники спрашивают у других киберпреступников, как лучше всего использовать украденную кредитную карту для оплаты подписки OpenAI, а также как обойти проверку IP-адреса, номера телефона, и другие геоконтроли, предназначенные для блокировки доступа российских пользователей к чат-боту. Россия — одна из немногих стран, которым запрещено использовать OpenAI.

Одно из сообщений на подпольном форуме

Исследовательская группа также нашла на форумах несколько руководств на русском языке о том, как обойти SMS-проверку OpenAI и зарегистрироваться в ChatGPT. По словам экспертов, хакеры, скорее всего, пытаются внедрить и протестировать ChatGPT в своих преступных операциях. Киберпреступники все чаще интересуются ChatGPT, потому что ИИ-технология, лежащая в основе чат-бота, может сделать атаки более рентабельными и менее трудозатратными.