У Meta зібралися боротися з "порнопомстою". Пояснюємо, чому це може не вийти

Компанія Meta (Facebook) оголосила про запуск сервісу для пошуку зображень оголеного тіла StopNCII.org. Це не пошуковик "нюдсів". Навпаки, Meta пропонує завантажувати на сайт дані оголених фото, а той шукатиме їх у соцмережах компанії та на сайтах учасників сервісу, щоб дати можливість господарю світлин видалити публікації. Meta акцентує увагу на тому, що інтимні фото не підуть далі комп'ютера або телефона користувача, сервіс "хешує" їх та передасть партнерам програми (це понад 50 організацій). Мета сервісу – убезпечити людей від "порнопомсти" в інтернеті. Це коли оголене фото людини розміщується у загальному доступі з метою зашкодити її репутації.

Чи ефективний такий спосіб боротьби? Liga.Tech розібралася.

Що таке хеш?

На сайті StopNCII.org зазначено, що хешування зображень – це процес використання алгоритму для присвоєння зображенню унікального значення хешфункції. Усі копії фотографії будуть мати те саме значення цієї функції.

Якщо не вдаватися в подробиці процесу, то хеш – це присвоєння зображення свого роду коду, який повинен збігатися в однакових зображень. Під час завантаженні в StopNCII зображенню надається хеш, який зберігається в базі сайту та передається партнерським платформам. Потім хеші порівнюються з кожним зображенням, завантаженим на платформи партнерів, і якщо знаходиться збіг, то фото видаляється. "Ми використовуємо такі алгоритми: PDQ для фотографій та MD5 для відео. Вони мають відкритий вихідний код та є галузевим стандартом для таких застосунків, як наш", – йдеться на сайті.

Але цей метод має проблему, яку визнають і творці сервісу – навіть за незначного редагування фото пошук не спрацює: "Якщо хешоване зображення редагується шляхом кадрування, додавання фільтрів або обрізки відео, вихідний хеш може не розпізнати зображення". Тобто варто змінити розміри фото, трохи повернути його, змінити колірну гаму або додати шум – і сервіс не знайде дублі.

Моральний бік

На сайті сервісу в розділі Q&A не йдеться про те, що буде, якщо на перевірку відправити фото голої знаменитості або якийсь об'єкт – картину, тварину. Чи розпізнає його алгоритм як непотрібне чи дозволить видалити всі ідентичні фотографії? Чи не вийде, що сам інструмент StopNCII.org можна буде використовувати як помсту, завантажуючи туди хеші фотографій людей, щоб зробити їм підлість? Або щоб видалити всі зображення Венери Мілоської з Facebook та Instagram?

Підписуйтесь на LIGA.Tech у Telegram: тільки важливе

Що було раніше

У 2017 році Facebook випробував технологію боротьби з порнопомстою в Австралії. Там вона працювала за іншим принципом – користувачам пропонували надіслати самим собі фото, які хтось міг би використати у "порнопомсті". Перед цим потрібно було заповнити форму на сайті комісара з онлайн-безпеки Австралії.

Якщо у нещодавно представленому сервісі фотографії хешуються автоматично, то в австралійському інструменті була потрібна участь модераторів. Вони могли переглядати заретушовані голі фотографії користувачів Facebook. Але в одного співробітника все-таки був доступ до оригіналів – він повинен був перевіряти, чи справді люди надіслали "нюдси". Вже після цього до фотографій застосовувався процес, аналогічний хешуванню. При цьому відредаговані фотографії таки розпізнавались як копії. Зашифровані фото зберігалися на сервері протягом тижня.

Як уберегтися від порнопомсти

У 2014 році оголені фото голлівудських актрис Кірстен Данст, Дженніфер Лоуренс, Брі Ларсон та багатьох інших з'явилися у вільному доступі. Джерелом виявився один із користувачів сайту 4chan, який продавав інтимні фото зірок за біткоїни.

Пізніше хакери на анонімному сайті AnonIB розповіли про злам iCloud зірок – таким чином вони викрали оголені фото. Шахраї нібито використовували вразливість в iCloud. У Apple потім спростували цю версію, заявивши, що причина злому – це недостатньо захищені акаунти акторок.

Не варто повторювати помилки голлівудських знаменитостей. Ідеальний варіант – це взагалі не зберігати у смартфоні свої чи чужі оголені фото. Реалістична порада – вимкнути їх завантаження в Google Фото або iCloud. І не надсилати такі фотографії через месенджери іншим людям.

Як вимкнути синхронізацію фото з iCloud:

• зайти до "Налаштувань";
• натиснути кнопку з ім'ям та прізвищем зверху сторінки;
• вибрати iCloud;
• відкрити розділ "Фото" та перемістити повзунок вліво, відключивши його.

Як вимкнути синхронізацію з Google Фото:

• зайти до Google Фото на пристрої Android;
• увійти до облікового запису Google;
• у верхньому правому куті екрана натиснути на своє фото профілю або значок з першою літерою імені;
• натиснути Налаштування Google Фотографії;
• вимкнути автозавантаження та синхронізацію.

Читайте також