Facebook Papers проливают свет на проблемы с модерацией контента в соцсети

Так называемые Facebook Papers (массив документов, обнародованных бывшим директором по продуктам Facebook Фрэнсис Хауген) проливают свет на проблемы с модерацией контента и борьбой с дезинформацией на платформе. Крупные СМИ, которым Хауген передала документы, в том числе Reuters, Bloomberg и The Washington Post, утверждают, что компания ставит прибыль выше безопасности пользователей, хотя сотрудники Facebook неоднократно предупреждали ее о возможных рисках.

К примеру, The Washington Post обвиняет главу Facebook Марка Цукерберга в приуменьшении важности сообщений о том, что сайт способствовал разжиганию ненависти, во время выступления перед Конгрессом США. Как пишет газета, Цукерберг знал, что проблема на самом деле намного серьезнее, чем об этом сообщалось общественности.

Согласно внутренним документам компании, платформа удаляет менее 5% публикаций, разжигающих ненависть, и высшему руководству (в том числе Цукербергу) было хорошо известно о том, что платформа разделяет людей на противоположные лагеря. Facebook опровергает обвинения и утверждает, будто ее внутренние документы были неправильно интерпретированы.

На Цукерберге также предположительно лежит ответственность за решение не пресекать дезинформацию о COVID-19 на ранних стадиях пандемии, поскольку мог возникнуть "существенный компромисс с влиянием MSI" (значимым социальным взаимодействием - внутренней метрикой Facebook). Facebook отрицает это уверяя, что документы были неверно поняты.

В свою очередь, информагентство Reuters обвинило Facebook в регулярном пренебрежении развивающимися странами, которым разрешалось делать публикации, разжигающие ненависть и призывающие к экстремистским действиям. Другими словами, компания не нанимала достаточное количество модераторов со знанием языка и культурных особенностей этих стран для эффективного удаления такого контента. Вместо этого она неоправданно полагалась на свои системы автоматической модерации, неэффективные в неанглоязычных странах. Опять же, Facebook опровергает эти обвинения.

Согласно сообщениям The New York Times, специалистам Facebook было хорошо известно о том, что функции "Лайк" и "Поделиться" (ключевые элементы соцсети) способствовали распространению публикаций, разжигающих ненависть. Как сообщается в документе под названием "Что такое побочный ущерб" ("What Is Collateral Damage"), неспособность Facebook решить эту проблему в итоге приведет к тому, что компания "будет активно (необязательно осознанно) продвигать такую активность". И снова Facebook заявляет, что документ был неправильно интерпретирован, поскольку компания не стала бы вредить своим пользователям.