Онлайн-митап: российский PAM — демо, возможности, кейсы

В среду на саммите ФБР по киберугрозам, прошедшим в Атланте, высокопоставленные представители агентства заявили, что они особенно обеспокоены угрозами, связанными с быстрым развитием искусственного интеллекта, особенно со стороны Китая.

Кристофер Рэй, директор ФБР, и Брайан Ворндран, заместитель директора по кибернетической безопасности, отметили, что киберугрозы для США исходят со всего мира, однако Китай является самым крупным противником как по объёму, так и по способности злонамеренного использования данных, частично благодаря внедрению операций на основе искусственного интеллекта.

Рэй охарактеризовал Китай как угрозу, «не имеющую аналогов среди иностранных противников». С его слов, страна имеет настолько крупную хакерскую программу, что она спокойно обходит «все другие крупные страны вместе взятые». Рэй также сказал, что огромный объём персональных и корпоративных данных, похищенных Китаем, в сочетании с мощью искусственного интеллекта, предвещает большие неприятности.

«Мы считаем, что искусственный интеллект в будущем позволит злоумышленникам разрабатывать всё более мощные, сложные, настраиваемые и масштабируемые угрозы — и им не потребуется много времени для этого», — заявил Рэй. Также директор ФБР отметил, что те огромные массивы данных, которые Китай похищал на протяжении многих лет, идеально подходят для загрузки в модели машинного обучения.

Китай, по словам ФБР, теперь в состоянии замкнуть цикл — использовать плоды своих широкомасштабных взломов для того, чтобы с помощью искусственного интеллекта осуществлять ещё более мощные хакерские атаки.

Ворндран также описал ряд атак с применением злонамеренного машинного обучения, которые направлены на самые разнообразные данные и системы. «ФБР чрезмерно сосредоточено на такого рода атаках и, в частности, на том, что может, и в действительности пойдёт не так».

Пока что «высокотехнологичные атаки с применением злонамеренного машинного обучения, такие как отравление данных, в основном встречаются лишь в научной литературе, а не в реальных атаках», — добавил Ворндран. Но, по его словам, «по мере того, как публичный и частный сектора будут всё больше применять искусственный интеллект, поверхность атак с применением враждебного машинного обучения будет соответственно увеличиваться, как и потенциальные физические и экономические издержки успешной атаки».

Подход ФБР к искусственному интеллекту и машинному обучению «проактивный», сказал Ворндран, поскольку агентство «проактивно выравнивает ресурсы для взаимодействия с разведывательным сообществом и партнёрами из частного сектора, чтобы лучше понимать технологию и её последствия».

Озабоченность тем, как быстро искусственный интеллект может увеличить проблемы безопасности для США, также разделяют и в Белом доме. Ведущие технологические компании в области искусственного интеллекта недавно даже подписали добровольные обязательства о том, что они будут отдавать приоритет безопасности и защите данных при разработке своих технологий.