25 октября 17 американских изданий одновременно выпустили больше 20 материалов проекта The Facebook Papers, названного с отсылкой к обнародованным во время войны во Вьетнаме внутренним документам Пентагона об американо-вьетнамских отношениях в 1945-1967 годах. В расследовании участвовали The New York Times, The Wall Street Journal, The Washington Post, Bloomberg, Politico, NBC News, CNBC, CNN, The Verge, Wired и другие.
В материалах, основанных на внутренних документах Facebook, говорится об этических проблемах и утаивании информации о работе компании: от вреда алгоритмов для психики до договорённости Цукерберга с вьетнамскими коммунистами, игнорирования торговли людьми и шокирующего контента в Индии и Мьянме.
Десятки тысяч страниц внутренних документов СМИ предоставила бывший продукт-менеджер Facebook и специалист по данным Фрэнсис Хауген. В эфире программы “60 минут” на CBS News рассказала, что компания несколько лет нарушала законы США о ценных бумагах, искажая и скрывая “неприглядные” внутренние данные от инвесторов. Бывшая сотрудница заявила, что Facebook игнорирует проблемы, такие как вред алгоритмов и недостаточную модерацию, но сознательно не борется с ними, чтобы не терять прибыль и пользователей. Хауген обратилась с материалами в Комиссию по ценным бумагам (SEC).
То, что я видела в Facebook снова и снова — это выбор между тем, что хорошо для общества, и тем, что хорошо для Facebook. И Facebook снова и снова выбирал свои собственные интересы, например, чтобы заработать больше денег.
Фрэнсис Хауген, бывший продукт-менеджер Facebook
TJ коротко пересказывает важные части расследований The Facebook Papers.
Facebook недостаточно модерировал контент, разжигающий ненависть или вражду
В 2019 году Facebook создал непрозрачную систему модерации в странах, разделив их на четыре уровня, пишет The Verge. На “нулевом уровне” — США, Бразилия и Индия, которым отдаётся самый высокий приоритет с постоянным наблюдением за контентом. На “первом уровне” — Германия, Индонезия, Иран, Израиль и Италия. На “второй” поместили 22 страны, а на “третий” — все остальные страны;
В расследовании The Washington Post говорится, что основатель Facebook Марк Цукерберг сообщал недостоверные данные Конгрессу США. Он заявлял, что соцсеть удаляет 94% контента, пропагандирующего ненависть, в то время как во внутренних документах говорится всего о 5%;
В компании знали, что платформы Facebook используются для торговли людьми ради подневольного труда, однако проблему до сих пор окончательно не решили, пишет CNN. В отчётах Facebook говорится, что женщин, которых принудили к рабскому труду в частных домах, насилуют, избивают и лишают еды;
Компания неравномерно инвестирует в модерацию контента в разных странах, из-за чего, например, в Индии, Мьянме, в Шри-Ланке дезинформация распространяется быстрее, чем в западных странах, следует из расследования The New York Times и The Washington Post. 87% бюджета компании на борьбу с вводящими в заблуждение постами выделяется для США, а остальные 13% — для остального мира. При этом американские пользователи составляют всего 10% от общего числа, а крупнейший рынок для Facebook — Индия. Но из-за недостаточной модерации и ненатренированности алгоритмов на распознавание редких местных языков, в странах ухудшились проблемы с разжиганием ненависти в сети, антимусульманскими настроениями, дезинформацией, ботами и манипуляциями во время выборов;
В 2019 году сотрудники компании создали фейковый аккаунт в Индии — всего за три недели он заполнился призывами к насилию и фотографиями трупов, пишет NYT. По словам сотрудника, он “видел больше изображений мёртвых людей за последние три недели, чем за всю свою жизнь”. Судя по документам, количество контента с насилием в США и Индии сильно отличается;
Facebook не приложил достаточно усилий для защиты прав человека и удаления аккаунтов, призывающих к дискриминации и этническому насилию в Эфиопии, где сейчас проходит гражданская война, говорится в расследовании CNN. Во внутренних документах компании говорится, что сотрудники осознают, что сил на борьбу с разжигающими ненависть постами сейчас недостаточно, однако ситуация почти не меняется.
Компания вернула лайки, когда пользователи стали потреблять меньше контента
В исследованиях Facebook, опубликованных The Wall Street Journal говорится, что Instagram усугубляет проблемы подростков, особенно девочек — у них развивается тревожность, депрессия и расстройства пищевого поведения. Около 13% юных британок и 6% американок сообщали о суицидальных мыслей из-за соцсети;
Лайки и репосты в фейсбуке и инстаграме не только способствуют развитию комплексов и сравнению себя с другими, но и помогают ложной и вводящей в заблуждение информации распространяться в сети “за секунды”, пишет NYT. Faсebook проводил эксперимент, частично убрав кнопки “Нравится” и “Поделиться”, но завершил его, когда пользователи стали меньше публиковать и взаимодействовать с контентом. В компании тогда заявили, что отказ от кнопок не решает проблему негативных чувств у пользователей;
Благодаря алгоритмам Facebook новый пользователь за три недели может полностью погрузиться в конспирологический контент, выяснили в исследовании компании, пишет NYT. Сотрудники проводили эксперимент, в котором тестовый аккаунт воображаемой “консервативной мамы Кэрол” получал от соцсети рекомендации сообществ QAnon. “Страница превратилась в постоянный поток вводящего в заблуждение, поляризующего и некачественного контента”, — говорится в исследовании;
Команде Facebook поручили активно бороться с вредоносным контентом, однако этому препятствуют недостаток модераторов и особенности алгоритмов, которые продвигают дезинформирующие публикации.
Facebook делал поблажки высокопоставленным политикам, а Цукерберг пошёл навстречу компартии Вьетнами, чтобы не уходить с рынка
Сотрудники Facebook призывали ужесточить контроль за ультраправыми консервативными источниками новостей в ленте, считая, что издания типа Breitbart представляют движения вроде Black Lives Matter в негативном свете. В расследовании The Wall Street Journal говорится, что правые издания — одни из самых популярных в соцсети, так что компания, пытаясь избежать критики, способствует продвижению ультраконсервативных сообществ и позволяет им обходить правила проверки фактов, а также публиковать ненадежный и оскорбительный контент;
Цукерберг согласился с требованием Коммунистической партии Вьетнама на усиление цензуры оппозиционеров в соцсети, чтобы не потерять выгодный азиатский рынок, сообщил The Washington Post;
Для высокопоставленных политиков в компании не действуют стандартные правила модерации, пишет Politico. Если нарушители готовы соблюдать правила, их контент не удаляют и не блокируют, а делают исключение;
Сотрудники компании во внутренних переписках обвиняли руководство в неспособности контролировать рост групп, призывавших к нападению на Капитолий в США в январе 2021 года, отметили в Bloomberg.
Facebook и Цукерберг отрицают сведения из расследований, и заявляют, что продвигать негативный контент им невыгодно
В Facebook знали о готовящейся серии публикаций в СМИ и отрицают обвинения Хауген. В компании заявили, что заявления бывшей сотрудницы неверно характеризуют работу компании, а в основе деятельности соцсети лежит безопасность пользователей, а не прибыль.
Facebook Newsroom @fbnewsroom18 окт в 20:37
We expect the press to hold us accountable, given our scale and role in the world. But when reporting misrepresents our actions and motivations, we believe we should correct the record.
Мы ожидаем, что пресса назовет нас ответственными [за содержание расследований], учитывая наш масштаб и роль в мире. Но когда сообщения искажают наши действия и мотивацию, мы считаем, что должны внести ясность
Facebook Newsroom @fbnewsroom18 окт в 20:37
A curated selection out of millions of documents at Facebook can in no way be used to draw fair conclusions about us. Internally, we share work in progress and debate options. Not every suggestion stands up to the scrutiny we must apply to decisions affecting so many people.
Выборка из миллионов документов в Facebook никак нельзя использовать для того, чтобы делать справедливые выводы о нас. Внутри компании мы делимся незавершённой работой и обсуждаем варианты [решения проблем]. Не каждое предложение выдерживает тщательную проверку, которую мы должны проводить с решениями, затрагивающими так много людей
6 октября Цукерберг заявил, что компания борется с вредоносными публикациями, заботится о ментальном здоровье и безопасности пользователей, а продвигать негативные публикации бизнесу невыгодно. “Многие из претензий не имеют смысла. Если бы мы хотели игнорировать исследования, зачем нам создавать ведущую отраслевую исследовательскую программу для понимания этих важных вопросов?”, — написал Цукерберг.
Аргумент о том, что мы намеренно продвигаем негативный контент ради прибыли, глубоко нелогичен. Мы зарабатываем на рекламе, а рекламодатели регулярно говорят нам, что не хотят, чтобы их реклама была рядом с вредным или негативным контентом. И я не знаю ни одной технической компании, которая бы намеревалась создавать продукты, которые заставляют людей злиться или впадать в депрессию.
Марк Цукерберг, основатель Facebook
Выбранные бывшей сотрудницей документы не могут отображать реальную ситуацию в компании, заявил вице-президент компании по коммуникациям Джон Пинетт.
На фоне критики Facebook в СМИ пишут, что компания в ближайшее время планирует провести ребрендинг и представить новое название. По словам Цукерберга, в ближайшие годы корпорация планирует выстроить свою “метавселенную”.
Расследования публикуют на фоне нового разбирательства против Facebook в Конгрессе, начатое после выхода материала The Wall Street Journal о пагубном влиянии инстаграма на детей и подростков. В Facebook и Цукербург пока не комментировали вышедшие в СМИ расследования.
Екатерина КУЗНЕЦОВА