ИИ на страже юности: как Meta разоблачит «взрослые» аккаунты подростков

Meta Platforms Inc.* разрабатывает новую систему защиты подростков в социальной сети Instagram*. Компания планирует использовать искусственный интеллект для выявления молодых пользователей, которые указывают недостоверный возраст, и автоматически переводить аккаунты в режим с повышенными настройками конфиденциальности.

По словам директора по управлению продуктами Meta* по работе с молодежью и социальному воздействию Эллисон Хартнетт, компания разработала специальный программный инструмент под названием «adult classifier». Система будет категоризировать пользователей по двум возрастным группам — старше или младше 18 лет. Для определения возраста алгоритм будет анализировать данные учетной записи, списки подписчиков, взаимодействие с контентом и даже просматривать поздравления с днем рождения, опубликованные друзьями.

В сентябре Instagram* представил формат подростковых аккаунтов с более строгими настройками приватности по умолчанию, включая ограничения на получение сообщений и просмотр определенного контент. На основании результатов работы программы пользователи, предположительно не достигшие 18 лет, будут автоматически переведены в категорию подростковых аккаунтов, независимо от указанного в профиле возраста.

Компания уже переводит подростков в режим повышенной защиты на основании самостоятельно указанного возраста, но планирует задействовать новую систему классификации в начале следующего года. Пользователи 16-17 лет смогут самостоятельно изменять ограничительные настройки конфиденциальности, а младше 16 лет — только с согласия родителей.

Meta* намерена существенно усложнить процесс фальсификации возраста в Instagram*. Система будет отмечать подростков, пытающихся создать новый аккаунт с тем же электронным адресом, но другой датой рождения. Компания также может проверять уникальный идентификатор устройства для определения владельца нового профиля.

Подросткам, пытающимся увеличить указанный возраст, придется подтверждать личность, загружая официальные документы или отправляя видео-селфи в стороннюю службу Yoti, которая оценивает возраст по чертам лица. После проверки изображения удаляются. Ранее существовавшая возможность подтверждения возраста через поручительство друзей была отменена.

Meta* планирует разработать систему апелляций для пользователей, которые были ошибочно определены как несовершеннолетние. На начальном этапе работы системы, пока Meta* будет совершенствовать точность алгоритма классификации, пользователи, ошибочно определенные как подростки, смогут самостоятельно отключать ограничения без разрешения родителей.

Руководство Meta* считает, что наиболее эффективным решением для проверки возраста была бы верификация через магазины приложений перед загрузкой определенных программ. Однако представители Apple и Google выразили несогласие с таким подходом, ссылаясь на принцип минимизации данных и отсутствие универсального решения проблемы.

По данным исследования британского телекоммуникационного регулятора, треть несовершеннолетних пользователей социальных сетей указывают возраст 18 лет и старше. Защита несовершеннолетних пользователей от вредоносного контента остается серьезной проблемой для Meta* на протяжении многих лет. Компания столкнулась с судебным иском от десятков генеральных прокуроров штатов, утверждающих, что социальная сеть способствовала формированию зависимости у детей и ухудшению психического здоровья подростков. Также поступали жалобы от родителей, чьи дети пострадали из-за контента или общения в продуктах Meta*.

В 2021 году бывшая сотрудница Facebook* Фрэнсис Хауген обнародовала тысячи страниц документов, показывающих, что собственные исследования компании выявили негативное влияние Instagram* на психическое здоровье девочек-подростков.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.