В Meta собрались бороться с "порноместью". Объясняем, почему это может не получиться

Компания Meta (Facebook) объявила о запуске сервиса для поиска изображений обнаженного тела StopNCII.org. Это не поисковик "нюдсов". Наоборот, Meta предлагает загружать на сайт данные обнаженки, а тот будет искать ее в соцсетях компании и на сайтах участников сервиса, чтобы дать возможность ее хозяину удалить публикации. Meta акцентирует внимание на том, что интимные фото не уйдут дальше компьютера или телефона пользователя, сервис "хэширует" их и передаст партнерам программы (это более 50 организаций). Цель сервиса – обезопасить людей от "порномести" в интернете. Это когда обнаженное фото человека размещается в общем доступе с целью навредить его репутации. 

Эффективен ли такой способ борьбы? Liga.Tech разобралась.

Что такое хэш?

На сайте StopNCII.org указано, что хэширование изображений – это процесс использования алгоритма для присвоения изображению уникального значения хэш-функции. Все копии фотографии будут иметь одно и то же значение этой функции. 

Если не вникать в подробности процесса, то хэш – это присвоение изображению своего рода кода, который должен совпадать у одинаковых изображений. При загрузке в StopNCII изображению присваивается хэш, который сохраняется в базе сайта и передается партнерским платформам. Затем хэши сравниваются с каждым изображением, загруженным на платформы партнеров, и, если находится совпадение, то фото удаляется. "Мы используем следующие алгоритмы: PDQ для фотографий и MD5 для видео. Они имеют открытый исходный код и являются отраслевым стандартом для таких приложений, как наше", – говорится на сайте.

Но у этого метода есть проблема, которую признают и создатели сервиса – даже при незначительном редактировании фото поиск не сработает: "Если хэшированное изображение редактируется путем кадрирования, добавления фильтров или обрезки видео, исходный хэш может не распознать изображение". То есть стоит изменить размеры фото, немного повернуть его, изменить цветовую гамму или добавить шум – и сервис просто не найдет дубли.

Моральная сторона

На сайте сервиса в разделе Q&A не говорится о том, что будет, если на проверку отправить фото голой знаменитости или какой-нибудь объект – картину, животное. Распознает ли его алгоритм как неподходящее или позволит удалить все идентичные фотографии?

Не получится ли, что сам инструмент StopNCII.org можно будет использовать в качестве мести, загружая туда хэши фотографий людей с целью сделать им подлость? Или чтобы удалить все изображения Венеры Милосской из Facebook и Instagram?

Подписывайтесь на LIGA.Tech в Telegram: только важное

Что было раньше

В 2017 году Facebook опробовал технологию борьбы с порноместью в Австралии. Там она работала по другому принципу – пользователям предлагали отправить самим себе фото, которые кто-то мог бы использовать в "порномести". Перед этим нужно было заполнить форму на сайте комиссара по онлайн-безопасности Австралии. 

Если в недавно представленном сервисе фотографии хэшируются автоматически, то в австралийском инструменте требовалось участие модераторов. Они могли просматривать заретушированные голые фото пользователей Facebook. Но у одного сотрудника все-таки был доступ к оригиналам – он должен был проверять действительно ли прислали "нюдсы". Уже после этого к фотографиям применялся процесс, аналогичный хэшированию. При этом отредактированные фотографии все-таки распознавались как копии. Зашифрованные фото хранились на сервере в течение недели.

Как уберечься от порномести

В 2014 году обнаженные фото голливудских актрис Кирстен Данст, Дженнифер Лоуренс, Бри Ларсон и многих других появились в свободном доступе. Источником оказался один из пользователей сайта 4chan, который продавал интимные фото звезд за биткоины. 

Позже хакеры на анонимном сайте AnonIB рассказали о взломе iCloud звезд – таким образом они похитили обнаженные фото. Мошенники якобы использовали уязвимость в iCloud. В Apple затем опровергли эту версию, заявив, что причина взлома – это недостаточно защищенные аккаунты актрис. 

Не стоит повторять ошибки голливудских знаменитостей. Идеальный вариант – это вообще не хранить в смартфоне свои или чужие обнаженные фото. Реалистичный совет – отключить их загрузку в Google Фото или iCloud. И не пересылать такие фотографии через мессенджеры другим людям.

Как отключить синхронизацию фото с iCloud:

1. Зайти в "Настройки".
2. Нажать на кнопку с именем и фамилией сверху страницы.
3. Выбрать iCloud.
4. Открыть раздел "Фото" и переместить ползунок влево, отключив его.

Как отключить синхронизацию с Google Фото:

1. Зайти в Google Фото на устройстве Android.
2. Войти в аккаунт Google.
3. В правом верхнем углу экрана нажать на свое фото профиля или значок с первой буквой имени.
4. Нажать Настройки Google Фото.
5. Выключить автозагрузку и синхронизацию.