Три десятка уязвимостей: ИИ-инструменты под угрозой взлома

Более трёх десятков уязвимостей выявлено в различных открытых моделях искусственного интеллекта и машинного обучения, часть которых позволяет злоумышленникам удалённое выполнение кода и кражу данных. В рамках платформы вознаграждений Protect AI от Huntr эти проблемы были обнаружены в таких ИИ-инструментах, как ChuanhuChatGPT, Lunary и LocalAI.

Наибольшую угрозу представляют две критические уязвимости в Lunary, инструменте для работы с крупными языковыми моделями. Первая — CVE-2024-7474 (CVSS: 9.1) — связана с некорректной ссылкой на объекты и позволяет пользователям получать доступ к данным других пользователей без разрешения. Вторая — CVE-2024-7475 (CVSS: 9.1) — даёт злоумышленнику возможность изменять конфигурацию SAML и авторизоваться под чужим именем.

Также в Lunary найдена ещё одна уязвимость — CVE-2024-7473 (CVSS: 7.5), позволяющая атакующему изменять запросы других пользователей, манипулируя параметрами в передаваемых данных.

ChuanhuChatGPT подвержен критической уязвимости CVE-2024-5982 (CVSS: 9.1), связанной с загрузкой файлов. Эта проблема даёт возможность злоумышленникам выполнять произвольный код и создавать директории на сервере, получая доступ к конфиденциальной информации.

В LocalAI выявлены две серьёзные проблемы. Первая, CVE-2024-6983 (CVSS: 8.8), позволяет выполнять произвольный код через загрузку вредоносного файла конфигурации. Вторая, CVE-2024-7010 (CVSS: 7.5), представляет собой атаку по времени обработки, которая даёт возможность подобрать API-ключи, анализируя отклик сервера.

Ещё одна уязвимость затронула библиотеку Deep Java Library (DJL). Ошибка в функции распаковки файлов ( CVE-2024-8396, CVSS: 7.8) позволяет злоумышленнику перезаписывать файлы и выполнять произвольный код на сервере.

Тем временем NVIDIA выпустила обновление для своей платформы NeMo, устранив уязвимость CVE-2024-0129 (CVSS: 6.3). Эта проблема могла привести к выполнению кода и искажению данных.

Проблемы безопасности в ИИ-системах подчёркивают, что развитие технологий должно идти рука об руку с усилением киберзащиты. Без своевременных мер даже самые продвинутые инструменты могут стать точкой входа для атак, ставя под угрозу данные и доверие пользователей.