Павло Казарін: Фабрика ненависті

Глобальний збій у роботі Facebook зробив цю соцмережу головним фігурантом новин. І він же відвернув увагу від слухань у Сенаті, де давала свідчення колишня співробітниця компанії Френсіс Хауген. Причому, її зізнання здатні нашкодити Марку Цукербергу куди більше, ніж нещодавній шатдаун.

Френсіс Хауген пропрацювала в компанії Facebook два роки. Вона була провідним менеджером з продукту та, за її словами, в якийсь момент політика компанії стала викликати у неї сумніви. У підсумку вона скопіювала десятки тисяч сторінок внутрішньої документації ‒ щоб потім викласти їх у відкритий доступ.

Ці документи пролили світло на безліч зловживань. Наприклад, на існування VIP-користувачів, яким дозволено порушувати правила й не отримувати за це бан. На слабку модерацію в регіональних офісах, через що у низці країн кримінальні синдикати використовують Facebook у злочинних цілях. Окрім того, стало зрозуміло, що компанія не намагається ефективно протистояти антивакцинаційній пропаганді ‒ через що мільйони людей в усьому світі опиняються під загрозою.

А ще стало відомо про те, що алгоритми фейсбуку налаштовані таким чином, щоб зіштовхувати людей лобами й викликати негативні емоції. В ефірі передачі "60 хвилин" на CBS News Френсіс Хуаген розповіла про те, що за допомогою телефону користувач здатний побачити близько 100 одиниць контенту соцмережі упродовж п'яти хвилин. При цьому в компанії є тисячі варіантів контенту, які вона може вам показати.

Але, за словами ексспівробітниці компанії, алгоритми фейсбуку зроблені таким чином, щоб показувати вам контент, який викликає ненависть і гнів. Тому що саме він викликає в людей емоції. І чим більше контенту ви споживаєте, чим більше емоційних реакцій ви виявляєте ‒ тим більше соцмережа заробляє. Тоді як спокійний, вдумливий і зважений контент отримує значно меншу індексацію й користувачі бачать його значно рідше.

Фактично, йдеться про те, що алгоритми фейсбуку годують користувачів неврозами ‒ щоб провокувати реакцію. Але навіть якщо загроза санкцій змусить Марка Цукерберга відрегулювати своє дітище ‒ це не вирішить усіх проблем. Нам випало жити в епоху соцмереж і в цього є наслідки.

Зрештою, саме соцмережі дозволили фрікам з усього світу об'єднуватися. Років сорок тому прихильник теорії пласкої Землі був приречений на самотність. Він міг підозрювати оточення в лицемірстві або дурості, міг бути впевнений, що астрономи й підручники брешуть ‒ а себе вважати одиноким пророком. Але саме інтернет і соцмережі подарували йому можливість знаходити однодумців, об'єднуватися з ними в групи та створювати політичний запит. На нього в якийсь момент стали відгукуватися політики.

До того ж медіаринок перестав бути ринком продавця, а став ринком покупця. Люди не раціональні створіння, а раціоналізуючі. Вони спершу роблять вибір, а потім шукають підтвердження, що зробили правильно. У результаті, медіа стали підлаштовуватися під цей запит. Вони перестали ускладнювати уявлення про реальність для своєї аудиторії. Замість цього вони стали свїй аудиторії підігравати. Переконуючи своїх глядачів і читачів у тому, що вони ‒ носії правди, справедливості та єдино вірної точки зору. Діалог закінчився ‒ і ми стали жити в ситуації безлічі монологів.

І немає нічого дивного в тому, що сьогодні ті ж Сполучені Штати серйозно готові розмірковувати про правила для соцмереж. Так, це приватний бізнес. Так, йдеться про комерційні компанії. Але в ситуації, коли третина дорослого населення планети є користувачами однієї соцмережі ‒ непрозорість алгоритмів може створювати ризики.

Документи, які опублікувала Френсіс Хауген, досить ілюстративні. Наприклад, у М'янмі, де 90% населення буддисти, у місцевому сегменті фейсбуку було безліч закликів до розправи над народом рохінджа. Ця етнічна група живе в М'янмі та сповідує іслам, але до 2015 року в компанії в регіоні був лише один модератор, який володів бірманською мовою. А тому соцмережа в цій країні перетворилася на розсадник ненависті.

Втім, пострадянський простір ‒ не виняток. Від початку гібридної війни Росія активно намагається працювати з настроями українських громадян ‒ зокрема й за допомогою соціальних мереж. І донедавна дефіцит модераторів було заведено пояснювати тим, що наш ринок для соціальної мережі непріоритетний, а тому в компанії немає можливості приділяти йому багато уваги.

Таке пояснення, втім, ніяк не знижує гостроту проблеми. У момент появи соцмереж ми вважали, що це буде простір для спілкування всіх-з-усіма. Що це буде майданчик для обміну ідеями та для дискусій. Але виявилося, що соцмережі за задумом своїх творців можуть перетворитися на гладіаторську арену. А поки власники компанії заробляють на наших неврозах ‒ інші великі гравці використовують людську довірливість, щоб обстоювати свої інтереси. Наприклад, переконуючи всіх у тому, що жертва насилля винна в тому, що трапилося. Або в тому, що вкрадене належить грабіжникові лише тому, що йому так захотілося.

Ймовірно, дискусія про алгоритми соцмереж мала початися декілька років тому. Але краще пізно, ніж ніколи.

Спеціально для Радіо Свобода