Facebook удалил сообщение из моей переписки. Он их читает и контролирует?

Соцсеть Цукерберга сканирует не только посты на страницах, но и личные чаты. На прошлой неделе у журналиста Liga.Tech пропало сообщение из личной переписки в Facebook. Вполне невинное, на первый взгляд. Пропало без дополнительных уведомлений и предупреждений - лишь со специальной пометкой.

Слежка Facebook уже добралась до личных чатов? Что вообще с этим делать? И какой баг есть в этой системе?

Как так получилось

Переписка касалась возможной темы статьи об открытых и закрытых данных. Собеседник прислал тезисы. А среди них - ссылку на сайт с большой базой номеров и адресов, эдаким ресурсом “серых” данных. 

Через несколько часов на месте обычного сообщения обнаружилось системное: удалено, так как содержит ссылку, нарушающую нормы сообщества.

Интересно, что сообщение исчезло только из веб-версии Messenger. В мобильном приложении у обоих собеседников оно сохранилось. В соцсети такую избирательность не объяснили.

Работа робота

Впервые о таких фокусах Facebook стало известно в апреле 2018 года. Тогда Bloomberg со ссылкой на интервью Марка Цукерберга сообщил, что соцсеть сканирует фото и ссылки в Messenger. Алгоритмы блокируют или удаляют контент, который нарушает правила. В некоторых случаях он отправляется на рассмотрение модераторам.

Сам Цукерберг тогда объяснил эти меры так: компания обнаружила, как Messenger использовался для плохих целей. Например, для подстрекательства к насилию в Мьянме.

“Я помню, однажды в субботу утром мне позвонили, и мы обнаружили, что люди пытались распространять сенсационные сообщения - в данном случае это был Facebook Messenger - на каждую сторону конфликта, говоря мусульманам: “Эй, похоже, готовится восстание буддистов, поэтому убедитесь, что вы вооружены, и идите туда-то”. И затем то же самое - другой стороне”, - рассказал CEO Facebook.

По его словам, теперь системы обнаруживают подобные штуки. 

Вопросы без ответов

Редакция направила в пресс-офис Facebook сразу ряд вопросов:

• как и почему роботы смотрят внутрь приватных чатов?
• как они решают удалять отдельные сообщения - есть ли какой-то список ресурсов, правила?
• как можно отправить жалобу в случае несправедливой ситуации?

Ответ пришел стандартный, почти под копирку с прошлогодним заявлением Facebook. 

Пресс-офис сообщил, что соцсеть недавно улучшила инструменты отчетности в Messenger. Люди могут сообщать прямо из Messenger о контенте, который, как они считают, нарушает стандарты сообщества. Модераторы его рассмотрят и при необходимости примут необходимые меры.

Также в Facebook используют различные автоматизированные инструменты, чтобы обеспечить безопасность людей в сообществе, включая Messenger. 

“Например, когда вы отправляете фотографию в Messenger, наши автоматизированные системы сканируют ее, используя технологию сопоставления фотографий, чтобы обнаружить изображения эксплуатации детей. Или когда вы отправляете ссылку, мы сканируем ее на наличие вредоносных программ/вирусов”, - говорят в соцсети.

По утверждению пресс-офиса компании, все это делается. чтобы быстро остановить злоупотребления на платформе. И эти инструменты, мол, очень похожи на те, которые сегодня используют другие интернет-компании. 

О списке вредоносных ресурсов Facebook умолчал, как и о способе обжаловать действие робота/модератора. Вероятно, для последнего необходимо использовать стандартный инструмент апелляций соцсети. 

Версия

Сам сайт “nomer”, помимо “серой” информации и того, что использует устаревший нешифрованный протокол http, с виду довольно безобиден - баннерная реклама, пара формочек и список городов, преимущественно России и Украины. Почему же он попал под бан?

“Я думаю, что это может быть какая-то жалоба российской власти на этот сайт (наши такой ерундой, вроде, не занимаются). И Facebook включил его в список запрещенных”, - предполагает Максим Саваневский, управляющий партнер коммуникационной группы PlusOne. 

Ему соцсеть тоже не позволила отправить ссылку. 

Также, добавляет Саваневский, у сайта, вероятно, уже были какие-то проблемы раньше. Ведь он был на выгодном домене .org, но почему-то переехал на новый, “такой себе”. Возможно, из-за блокировок. Сайт nomer.org действительно некоторое время был в “черном списке” Роскомнадзора. Но уже разблокирован, и с него идет перенаправление на нынешнюю версию.

Все вернул и разрешил

Через пару часов после ответов Максима Саваневского журналист решил снова проверить работу скан-робота в Messenger. И обнаружил, что Facebook перестал блокировать “серую” ссылку. Просто вернул сообщения с ней, как ни в чем не бывало - без предупреждений и объяснений. 

Кстати, в процессе написания редакция протестировала и другое сканирование. В личных переписках журналисты обменялись несколькими фото юных обнаженных девушек с порносайтов. Но спустя несколько часов и дней соцсеть так ничего не удалила. 

Видимо, алгоритм реагирует на совсем уж жесткие изображения.