«Лаборатория Касперского» призывает ООН: время утвердить принципы ИИ в кибербезопасности

«Лаборатория Касперского» предложила Рабочей группе открытого состава (РГОС) по вопросам безопасности в сфере использования информационно-коммуникационных технологий при ООН заняться разработкой принципов развития искусственного интеллекта (ИИ) в контексте кибербезопасности.

Согласно документу, с которым ознакомился «Коммерсантъ» , ИИ имеет значительный потенциал в области кибербезопасности, помогая выявлять угрозы, отвечать на них и анализировать необычные активности в IT-системах.

Тем не менее, применение технологий машинного обучения «не только положительно влияет на кибербезопасность, но и создает риски».

В частности, указывается, что системы, основанные на машинном обучении, могут стать устаревшими или функционировать некорректно при резких изменениях входных данных.

Ключевым элементом использования ИИ в области кибербезопасности должен стать человеческий контроль, включая доступ экспертов в реальном времени ко всем данным и процессам, утверждают в «Лаборатории Касперского». Также рекомендуется минимизировать использование персональных данных в процессе обучения ИИ, максимально обезличивая их. В рамках международного регулирования ИИ компания предлагает обучение систем на «обширных данных из открытых источников».

В «Лаборатории Касперского» сообщили, что в октябре компания планирует провести семинар «Этические принципы применения искусственного интеллекта в кибербезопасности» в рамках Форума по управлению интернетом, который пройдет в Японии под эгидой ООН.