Корпорация зла: цензура, работорговля, дезинформация. Что еще узнали о Facebook журналисты

Что такое Facebook Papers

В начале октября бывшая продакт-менеджер Facebook Фрэнсис Хоген предоставила изданию The Wall Street Journal внутренние документы компании, разглашающие информацию о провале борьбы с антивакцинаторскими комментариями, цензуре и подавлении работы алгоритмов соцсети. Хоген скопировала документы перед увольнением для их огласки, чтобы в Facebook начали принимать меры по борьбе с разжиганием ненависти и дезинформацией. 

5 октября Хоген выступила в Сенате США с обвинением Facebook во вреде детям и ослаблении американской демократии. Глава Facebook Марк Цукерберг отрицает обвинения Хоген. По его словам, многие из них "не имеют никакого смысла" и "глубоко нелогичны". 

Уже почти месяц 17 американских медиа регулярно выпускают материалы-расследования на основании этих документов, которые назвали Facebook Papers. Liga.Tech выбрала из них важнейшие истории.

Facebook теряет аудиторию

Согласно документам за ноябрь 2020 года, молодежь заходит в Facebook гораздо реже, чем старшее поколение. Молодые люди считают соцсеть устаревшей, а контент в ней — неинтересным. Иными словами, молодежь видит в Facebook соцсеть для пожилых людей. 

Исследователи Facebook обнаружили, что база пользователей соцсети стареет в среднем быстрее, чем население. Если в компании не изобретут способ исправить это, соцсеть будет становиться все менее привлекательной для молодежи, что угрожает потерей данных, нужных для рекламы и заработка денег. В Facebook при этом заявляют, что продукты компании по-прежнему популярны среди подростков, хотя признают, что существует "жесткая конкуренция" со стороны TikTok, Snapchat и других подобных приложений.

Отключение модерации в Индии

Хотя внутренние документы индийского подразделения Facebook говорят о постоянной борьбе компании с оскорбительным контентом на крупнейшем рынке демократического мира, выяснилось, что компания изменяет работу алгоритмов для индийской аудитории в интересах премьер-министра страны Нарендры Моди. 

Во время очередного обострения между Индией и Пакистаном часть индийского контента перестала модерироваться, что превратило безобидные группы в Facebook в эпицентры ненависти, слухов и вирусного исламофобского контента. Например, с фото обезглавленных пакистанцев. А в феврале 2020 года в индийском сегменте соцсети по хэштегу Coronajihad распространяли обвинения мусульманской общины в новой эпидемии. Хэштег заблокировали лишь через несколько дней.

Подписывайтесь на LIGA.Tech в Telegram: только важное

Facebook не против торговли людьми

В 2019 году Apple пригрозила убрать Facebook и Instagram из своего магазина приложений из-за того, что платформы корпорации Facebook используются для торговли служанками на Ближнем Востоке. Компания пообещала принять жесткие меры, и Apple согласилась не удалять приложения из App Store. 

Но жесткие меры, похоже, имели ограниченный эффект. Поиск по слову khadima, что значит "горничная" на арабском, выдает фотографии африканок и женщин из Южной Азии с указанным возрастом и стоимостью. Это посты с продажей горничных для богатых клиентов в ближневосточных странах.

Геноцид в Мьянме

Этнические чистки народа рохинджа в Мьянме, начавшиеся в 2016 году, побудили Facebook в 2018 году анонсировать запуск модерации на бирманском языке. Компания обещала нанять 100 носителей языка Мьянмы. Впоследствии Facebook ни разу не отчитался в том, сколько модераторов наняли, и на каких диалектах страны они специализируются. 

Несмотря на публичные обещания Facebook и многочисленные внутренние отчеты о проблемах, алгоритм рекомендаций соцсети продолжает подыгрывать армейской пропаганде в Мьянме, утверждают в правозащитной организации Global Witness.

Антивакцинаторские настроения

Обнародованные документы говорят и о провале работы Facebook с антивакцинаторскими комментариями. У компании был рабочий инструмент для борьбы с дезинформацией о вакцинах, но его просто не использовали. В служебных записках сотрудники компании отмечали неготовность работать с комментариями противников вакцинации и говорили о том, что такие комментарии – это "практически слепая зона". 

В июле 2021 года президент США Джо Байден обвинил Facebook в "убийстве людей". Он заявил, что распространение дезинформации о вакцинах в соцсети способствует росту смертности. 

Querdenken

Документы Хоген раскрыли также удачный пример того, как Facebook может бороться с экстремизмом в соцсети. Для немецкого конспирологического антивакцинаторского движения Querdenken применили более агрессивный метод модерации, который заблокировал распространение контента группы до того, как он принес значительный ущерб. 

Эксперимент Querdenken, судя по публичным заявлениям Facebook, стал поводом для заметных изменений в политике модерации. В сентябре компания анонсировала новую политику "скоординированного социального вреда", используя Querdenken как пример эффективности нового метода.

Цензура во Вьетнаме

Марк Цукерберг лично согласился, что Facebook будет цензурировать контент во Вьетнаме после того как правящая Коммунистическая партия Вьетнама поставила компании ультиматум — либо согласие на цензуру антигосударственных сообщений, либо блокировка в стране. 

Скрытие лайков

План по скрытию подсчета лайков в Instagram так и не реализовали. Как показало тестирование, новшество привело к снижению доходов от рекламы и уменьшению популярности приложения. Тестирование в Facebook также прекратили после того, как топ-менеджеры заявили Цукербергу, что число лайков  не является "основным барьером для общения и не смущает людей". 

Facebook и протесты в США

Документы, предоставленные Хоген, показали, что Facebook вовремя не отреагировал на разжигание ненависти в соцсети перед захватом Капитолия 6 января. Модераторы неделями игнорировали призывы о том, чтобі помешать Конгрессу подтвердить победу Джо Байдена на президентских выборах, пока протестующие не вошли в Капитолий.

После завершения выборов компания отключила большую часть инструментов, направленных на отслеживание радикальных комментариев и постов, и включила их лишь 6 января, когда уже было слишком поздно. 

Один из сотрудников соцсети, уволившийся в 2020 году, рассказал о том, что Facebook не спешил внедрять новые инструменты, подкрепленные серьезными исследованиями, из-за "опасений по поводу реакции общественности и заинтересованных политиков". То есть Трампа.

Политические группы в США

В октябре 2020 года Facebook анонсировал прекращение рекомендаций активистских и политических групп американским пользователям. Это стало сложной задачей для соцсети. Около 30 групп научились обходить фильтрацию, продолжая появляться в рекомендациях. 

Выяснилось, что проблема заключается в сложности определить, какие группы считать "активистскими". При категоризации групп система мониторинга Facebook анализирует контент за последние семь дней. Страницы временно меняли тематику контента, выходили из списка "заблокированных" в рекомендациях, а потом снова начинали публиковать политический контент, чередуя его с нейтральным. Это позволяло им оставаться в рекомендациях.

Рост акций вопреки

Несмотря на публикации Facebook Papers, акции компании за последние три месяца выросли более чем на 3,5%. В отчете Facebook говорится о том, что по итогам третьего квартала доход на акцию составил $3,22, хотя по прогнозам он должен был составлять $3,19. При этом суммарный доход компании оказался меньшим – $29,01 млрд вместо прогнозированных $29,57 млрд.