Жид, москаль, хохол. Как Facebook фильтрует hate speech в Украине

1,5 миллиарда людей заходят на Facebook каждый день, 2,3 - каждый месяц. Миллиарды постов публикуются и шерятся в соцсети каждый день. 87% пользователей находятся за пределами США и Канады. Поэтому, например, в Европе находится довольно большое количество сотрудников проекта Марка Цукерберга.

“И мы хотим быть уверенными в том, что представляем голоса всех людей, которые используют нашу платформу во всем мире”, - подчеркивает Сиоба Каммиски (Siobhan Cummiskey), Facebook Head of Content Policy в регионе EMEA (Европа, Средний Восток и Африка). Она согласилась пообщаться с LIGA.net по видеосвязи из офиса в Дублине.

Команда, ответственная за модерацию, базируется в 10 офисах по всему миру. Когда людей нанимают, у них должен быть разный бэкграунд. Также используются внешние эксперты. 

Каждые две недели команда собирается, чтобы обновлять политику. Если что-то таки решают менять, то собирается рабочая группа на несколько недель. Они тестируют разные опции, чтобы увидеть, какой контент удаляли бы, перед тем как запустить их в эксплуатацию. Потом - консультация с внешними экспертам. Затем - снова сбор команды и рассмотрение рекомендаций. Если голосуют "за", рекомендации принимают.

Эксперты Facebook мониторят контент по огромному количеству признаков. Это может быть буллинг, посты самоубийц и террористов, обнаженка и так далее. Один из признаков, за который контент могут удалить - это hate speech. С ним украинцы знакомы не понаслышке. Аккаунты многих людей блокировали за такие слова, как "жид", "москаль" и так далее. Причем даже если они были использованы в постах трехлетней давности.

Facebook объясняет это тем, что удаляет контент, когда юзер “атакует людей”, основываясь на разных характеристиках: раса, этническая или религиозная принадлежность, национальность, сексуальная ориентация, кастовая принадлежность, пол, гендерная идентичность и серьезные заболевания или инвалидность.

При этом пользователь может свободно высказываться о стране или каком-то институте. Но не может, если речь идет о привязке к национальности, принадлежности к этому институту.

Миллионы отчетов о потенциальном нарушении людьми политики Facebook анализируются командой каждый день. Приоритет на отчеты, где есть риск потери жизни.

Если контент удален, обязательно указывается причина. Можно подать апелляцию. Если двое фейсбуковцев не сойдутся во мнении, возвращать ли контент или нет, то финальное решение примет третий фейсбуковец. К концу года будет также создан независимый внешний совет по рассмотрению контент-вопросов.

Отчеты людей распределяются. Как говорит Сиоба Каммиски, если оскорбляющий контент или hate speech - на украинском, он будет направлен к носителю языка, который его будет рассматривать.

15 000 людей рассматривают контент по всему миру. На более чем 50-ти языках. В общей сложности 30 000 людей занимаются безопасностью, влючая контент-менеджеров.

В Украине у Facebook 13 млн пользователей. Фактически это крупнейший контент-генератор страны. Журналисты LIGA.net выяснили, как модерируется контент в Украине и кто отвечает за модерацию.

- Как вы привлекаете носителей языка? Кто они? Например, если в посте встретилось слово "москаль", какой человек будет его рассматривать?

- Мы будем работать над вопросом о hate speech по тем же принципам, что и в любой другой стране. У нас есть определение, опубликованное на сайте, - о том, что означает hate speech. Оно было сформировано совместно с профессурой и экспертами в этой сфере. Как вы знаете, нет общепризнанного определения того, что означает hate speech. И это заставило нас его сформировать.

Мы протестировали, насколько наше определение работает на уровне Европы, и видим, что оно совпадает с тем, которое есть у Еврокомиссии, в европейских странах, в 80% случаев.

Я не эксперт по Украине, у нас есть люди, которые являются носителями языка. Они эксперты в том, что является меньшинствами. Они понимают сленг, который используется одними людьми, по отношению к другим.

- Я вас понял. Но вопрос в том, кто эти люди. Как вы их ищете, привлекаете? Они украинцы или нет?

- Да, они украинцы. Мы хорошо поработали над набором людей. У нас более 2000 людей, которые работают тут, в Дублине. Также есть люди на аутсорсинговых площадках по всему миру. Мы с ними тесно работаем. CPL, например, одна из компаний, к которой мы очень тесно сотрудничаем. Мы занимаемся рассмотрением контента в хабах по всему миру. В Барселоне есть такой, совместно с партнерской организацией. В Дублине тоже есть хаб. Я проверила состав команды перед этим звонком. У нас есть хорошее число украиноязычных людей, которые рассматривают контент. И точность в обращении с отчетами очень высокая, сравнимая с другими странами.

- Эти украиноязычные люди сидят в Барселоне или Дублине?

- Мы вообще-то не говорим, где сидят контент-ревьюеры, в целях безопасности. Я не знаю, знаете ли вы о том, что в прошлом году в Калифорнии устроили стрельбу в YouTube офисе по причине удаления контента.

- Я же не спрашиваю вас об адресе.

- Мы просто не говорим о том, где... Но я могу сказать вам, что Дублин - это одна из локаций, где мы рассматриваем контент. И мы поддерживаем ряд языков вне дублинского офиса. Но мы не говорим, где у нас контент-ревьюеры для каждой страны в целях безопасности.

- Окей, сколько украинцев в дублинском офисе?

- У меня нет такой цифры. И это не отображается на том, как мы рассматриваем украинский контент.

- Десятки, тысячи? Какой порядок?

- Позвольте, я объясню. Если какой-то репорт приходит из Украины. Например, контент с обнаженным телом, то это не обязательно должен рассматривать украиноязычный сотрудник. Это может рассмотреть другой сотрудник. Здесь нет привязки к языку.

- Это кажется нам странным. У меня есть большое количество друзей, которые были заблокированы за слова, которые мы не считаем оскорбительными. Поэтому я и хочу выяснить, кто именно принимает эти решения и откуда. И есть много слухов и спекуляций, что такие решения могут приниматься людьми, которые, например, поддерживают Путина, или людьми из России. Поэтому я и задаю эти точные вопросы. Хочется все-таки понять, кто наши модераторы.

- Я думаю, что очень важно объяснить, как работает наша политика. Моя команда устанавливает правила относительно того, какой контент и как публикуется. А community team не может выходить за рамки этих принципов. Мы также постоянно проводим ряд проверок качества в работе людей, которые работают с контентом. Поэтому если кто-то примет решение, которое выходит за рамки наших правил, оно станет явным. Если кто-то будет постоянно принимать неправильные решения, его удалят из команды, контент восстановят и перед пользователем извинятся, если решение было неверным. Так что не переоценивайте то, сколько власти есть у ревьюера контента.

- Есть, допустим, какое-то украинское слово, на которое я пожаловался ревьюеру. Может ли он его идентифицировать как плохое слово?

- Нет, он может его отправить в нашу команду с такой рекомендацией, что оно нарушает какое-то из наших правил. Мы на него посмотрим, выясним, что делаем в таких случаях в других странах, чтобы убедиться в том, что мы действуем по тем же принципам во всех странах.

- Я объясню, почему все это спрашиваю. Мы как журналисты постоянно работает с этим, так сказать, “языковым материалом”. И мы понимаем, что ситуация меняется очень быстро. Некоторые слова, которые не были обидными, стали ими. И наоборот. Все постоянно меняется, и мы постоянно собираем эти изменения внутри страны. Мы хотим быть постоянно в курсе того, какое лексическое значение имеет слово. Поэтому я и спрашиваю вас, почему у вас нет ребят, которые сидят в Украине и вовлечены в локальную ситуацию. Я думаю, что это важно.

- Мы нанимаем носителей языка. Мы не нанимаем людей, которые, скажем, изучали французский в колледже.  Мы нанимаем людей, которые из Франции и говорят на французском. То же самое применяется и к Украине.

Мы также постоянно консультируемся с внешими группами, чтобы быть в курсе вещей, о которых вы говорите: что означают слова, как люди их используют, какие новые хейт-группы появляются.

Мы также консультируемся с НГО и другими организациями в стране, чтобы быть в курсе.

- С кем в Украине консультируетесь?

- Я знаю, что такие организации есть, но, к сожалению, не знаю названия.

- Мне это все напоминает ситуацию с диаспорой и людьми, живущими в стране. Диаспора всегда имеет немного отличное мнение о происходящем в стране по сравнению с тем, что думают местные. Будучи в стране, вы видите каждый день бигборды, смотрите телевизор, общаетесь с людьми и так далее. Я думаю, очень важно быть внутри общества, чтобы понимать общество. Facebook - в контент-бизнесе, а контент-бизнес - это очень серьезная штука, влияющая на сознание людей. Поэтому я не понимаю, почему вы не нанимаете местных в Украине и других странах для работы с контентом. Я думаю, это ошибка.  

- То, что вы говорите, очень важно, и я думаю, вы правы. Особенно во время, когда все меняется очень быстро в стране, нужно быть хорошо погруженным в происходящее внутри страны. Но позвольте мне объяснить, почему мы не имеем команды в привязке к каждой стране.

Мы делаем это в хабах, куда можно привлечь людей. Если это Барселона, туда можно легко привлечь говорящих на французском и на испанском, немецком. Это хаб, куда нам просто привести людей. Та же самая стратегия и в других хабах. Если бы у нас были региональные команды по всему миру, было бы сложно удержать согласованность в исполнении нашей политики.  

- Могу ли я стать вашим модератором?

- Конечно, мы будем рады получить ваше CV. На сайте Facebook в разделе career вы сможете увидеть все вакансии, включая позиции модераторов контента.