ИИ-подружки: сладкий обман или коварная ловушка?

14 февраля, в День святого Валентина, исследователи из компании Mozilla опубликовали очередной отчёт в рамках серии публикаций Privacy Not Included , в котором специалисты выявили, что большинство имеющихся на рынке приложений для романтических переписок с чат-ботами не соответствуют современным стандартам безопасности и конфиденциальности.

С развитием генеративного искусственного интеллекта начался настоящий бум чат-ботов для «отношений», предлагающих компанию одиноким сердцам. Причём такие нейропереписки часто носят не только романтический, но и эротический характер.

Миша Рыков, исследователь из Mozilla, резко высказался по поводу подобных увлечений: «Честно говоря, ИИ-подруги — это не ваши друзья. Несмотря на обещания улучшить ваше психическое состояние, на деле они способствуют зависимости, одиночеству и токсичности, при этом извлекая из вас как можно больше данных».

В результате оценки 11 популярных чат-ботов для романтических переписок, включая такие приложения, как «Romantic AI», «Talkie Soulful AI» и «EVA AI Chat Bot & Soulmate», все из них получили от Mozilla пометку Privacy Not Included, что выделяет их как одни из наиболее проблемных с точки зрения конфиденциальности.

Скриншоты из приложения «EVA AI Chat Bot & Soulmate», где чат-бот
буквально выпрашивает у пользователя его фото и голосовые сообщения

Среди основных проблем безопасности и конфиденциальности, выявленных в исследовании, эксперты Mozilla отмечают отсутствие публичной информации о том, как управляются уязвимости безопасности (73%), неясность данных об использовании шифрования (64%), разрешение на использование слабых паролей, включая «11111» (45%), продажа данных пользователей или их использование для таргетированной рекламы без достаточно ясной информации в политике конфиденциальности (90%), и запрет на удаление личных данных (54%).

Джен Калтрайдер, директор программы Privacy Not Included, предостерегает: «Сегодня мы сталкиваемся с "диким западом" нейрогенеративных чат-ботов для отношений. Их популярность растёт взрывными темпами, а количество личной информации, которую они извлекают для создания романтических, дружеских и интимных взаимодействий, по-настоящему огромно».

Калтрайдер подчёркивает необходимость повышения прозрачности и предоставления пользователям куда большего контроля над подобными ИИ-сервисами, чтобы предотвратить потенциальную манипуляцию и защитить личные данные.

Таким образом, чат-боты для романтических отношений, которые день ото дня становятся всё более популярными, создают серьёзные риски для безопасности и конфиденциальности пользователей. Эти приложения собирают большое количество личных данных, включая фотографии и аудио, которые можно использовать в том числе как биометрию, однако не предоставляют достаточной информации о том, как они обрабатывают и защищают эту информацию.

Пользователи должны проявлять осторожность и критически относиться к подобным чат-ботам, чтобы не допустить утечку чувствительных данных, а также предотвратить злоупотребления и манипуляции со стороны злоумышленников, способных заполучить эти данные.