Экс-сотрудник Google: как соцсети обесчеловечивают людей

Тристан Харрис — известная личность в Кремниевой долине. В 2011—2015 годах он занимался продуктовым дизайном в Google. Наблюдая за тем, как часто службы поисковика вынуждают людей проверять электронную почту и уведомления на смартфонах, Харрис призвал своих коллег создать системы, которые экономили бы людям время, а не отнимали его.

Тогда он составил манифест «Свести к минимуму отвлечение внимания и уважать внимание пользователей» (A Call to Minimize Distraction & Respect Users' Attention). Менеджер нашел поддержку среди многих своих коллег и представителей индустрии. И чтобы развивать свою идею гуманности технологий, которые не вредят людям, Харрис ушел из компании.

О Харрисе начала говорить вся Кремниевая долина, после того как он начал развивать движение Time Well Spent. Его цель - обратить вспять то, что он называет «кризисом цифрового внимания» - блестящие умы в Google, Apple, Facebook «захватывают наши умы» с помощью все более совершенных методов манипулирования, через наши смартфоны.

В феврале 2018 года он создал организацию Центр гуманных технологий (Center for Humane Technology). В конце апреля 2019 года она провела в Сан-Франциско конференцию, собравшую более 300 представителей IT-индустрии.

В своем докладе Humane, a New Agenda for Tech Харрис рассказал, почему развитие социальных сервисов ведет к деградации человечества. И какой есть выход. 

Liga.Tech публикует основные тезисы.

1. Сейчас в tech индустрии происходит своего рода какофония скандалов. У нас есть зависимость от смартфонов, поляризация общества, манипуляции на выборах, боты, ментальное здоровье молодежи. Харрис заявляет, что есть только одна вещь, которая стоит за всеми этими проблемами.   

Эдвард Осборн Уилсон, отец социобиологии сказал, что реальная проблема человечества заключается в том, что мы имеем эмоции из палеолита, средневековые институты и технологии, подобные богу.

То есть, мы руководствуемся древними инстинктами, а наш инструмент - продвинутый tech. В этом то и состоит дилемма. В случае с Google назревает вопрос: как он обращается с палеолитическими эмоциями двух миллиардов людей, выстраивает взаимосвязи в их отношениях.

2. Человеческие слабости. Когда мы смотрим на прогресс технологий, мы все ищем точку, когда они превзойдут возможности человеческого разума. Когда будет достигнута точка сингулярности и машины станут умнее людей. Но в этой траектории есть гораздо более ранний момент - когда технологии овладевают человеческими слабостями. И эту точку мы уже прошли. И попали в зону зависимости, информационной перезагрузки, поляризации общества и его радикализации. И все это ведет к деградации человека: к ухудшению концентрации внимания, критического мышления, креативности, романтической интимности, отношений, продуктивности.

3. Extractive attention economy - экономика, построенная на “добывании” внимания людей. Это гонки инженеров вплоть до дна ствола мозга с целью хакнуть человеческие инстинкты. Телефоны, сервисы знакомств Tinder и даже сервисы e-mail превращаются в своеобразные игровые автоматы. Когда человек начинает постоянно проверять эти сервисы 24/7. Вот конечная цель.

И гонка даже не за то, чтобы привлечь внимание, а как сделать человека зависимым от этого же внимания.

Это создает мир, где вы вознаграждаетесь, пытаясь выглядеть иначе, чем на самом деле выглядите.

И мы уже проводим около четверти жизни в искусственных социальных системах.

Их действие распространяется на время, которое вы проводите вне экрана, так как эта зависимость формирует и культуру нашего поведения не в сети, влияет на то, как мы строим отношения. В 2017 году процент женщин с признаками депрессии вырос до 27%. В то время как в 1991 году он составлял 17%. Харрис заметил, опираясь на данные клинических исследований,  что этот процент начал расти в 2013 году, когда началась активная эпоха социальных медиа. Они становятся зависимыми от внимания других людей в соцсетях, и это разрушает их самоидентичность.

В реальной жизни с общением становится совсем плохо. Только половина опрошенных американцев, согласно Cinga National Survey 2018, заявила, что у них есть полноценное общение с другими людьми в течение дня. 

4. Технологии начинают разрушать свободу воли. Харрис приводит пример, когда человек запускает в YouTube видео, хочет посмотреть только одно, а потом оказывается, что “залип” на пару часов. Когда пользователь нажимает “плей”, в Google пробуждается его кукла-вуду. Это цифровая версия пользователя, построенная на его кликах, лайках, предпочтениях и соотношению предпочтений с другими куклами-вуду других людей. Все эти “цифровые отпечатки” помогают куклам стать все более похожими на вас.

И уже не нужно манипулировать вами, собирать данные путем подслушивания разговоров через смартфон (что является теорией заговора чистой воды). Можно просто манипулировать вашей куклой-вуду. На ней можно проверять разные видео. И потом показывать только те, которые будут дольше всего удерживать пользователя в открытом окне YouTube.

Среднее время просмотра YouTube на мобильном устройстве превышает 60 минут в день. Здесь Харрис приводит цитату Chief Product Officer YouTube Нила Мохана: “...это зависит от того, что показывают вам наши рекомендательные системы”.

Это колонизирует наш выбор. Более миллиарда часов просмотра видео регистрируются каждый день. И 70% от этого объема видео включается по рекомендации. Тут Харрис делает вывод, что искусственный интеллект уже захватил нашу свободу выбора.

5. Машины решают, во что нам верить, и уменьшают значение того, во что мы верим. Харрис рисует линию. На одной ее стороне он условно помещает полезные, рациональные, спокойные видео, а на другой - всякие сумасшедшие вещи: снежный человек, НЛО и пр. Если сервис захочет, чтобы человек смотрел больше, он направит его внимание как раз в "сторону зла".

Харрис приводит пример: если смотреть видео о теракте 9.11 в США, то сервис начнет рекомендовать различные конспирации на эту тему. Еще вы смотрите фильм про NASA, то следующей рекомендацией может быть ролик о том, что Земля на самом деле плоская.

И рекомендации есть не только для видео, но и для ключевых слов (keywords). И тенденция там такая же: от рационального - к сумасшедшему.  

6. Теории заговора. Если посмотреть, какой сервис подсунет теорию о том, что Земля круглая, то окажется, что это будет 20% в Google Search, 35% в Youtube Search и в 90% случаях, если это будет сервис рекомендаций YouTube. Это данные двухгодичной давности.    

Известный баскетболист извинился за то, что сказал, что Земля плоская и заявил, что это из-за YouTube. И, оказалось, что это выглядело убедительно для некоторых школьников. Ведь им об этом сказал их кумир. Поэтому когда учителя начали им доказывать обратное, они подумали, что учителя сами поддерживают конспирологическую теорию - что земля шарообразная.

Как говорит Харрис, если однажды отправить людей идти в этом сумасшедшем направлении, то очень сложно развернуть и направить обратно.

7. Facebook группы. В 2017 году основатель Facebook Марк Цукерберг сказал, что его новая миссия сделать нас ближе друг и другу. И для этого будет использоваться искусственный интеллект - он будет предлагать группы. Его задумка сработала. Все больше людей начали присоединяться к предлагаемым группам.

Здесь снова вспомним куклу-вуду, цифровую версию пользователя. Как оказалось, наиболее подходящая группа для предложения людям из сообщества новых мам - это группа конспирологического движения против вакцин.    

А сейчас антивакцинное движение вошло в топ-10 глобальных угроз здоровью в мире.

Не только из-за социальных сетей, но во многом из-за них.

8. Fake News. YouTube приостановил распространение таких тем как популяризация теории о том, что Земля плоская, популяризация подростковой анорексии и движение против вакцин. Но Харрис просит задуматься, сколько еще подобных вещей раскручивается по всему миру на разных языках, и о чем еще не известно. А фейковые новости, согласно исследованию MIT, распространяются в 6 раз быстрее, чем правдивые новости.  

И в эту токсичную среду попадут еще около 4 млрд новых людей в последующие 6 лет.  

9. И теперь ключевая мысль доклада: “В то время как мы апгрейдили машины, мы заставили деградировать нашу человечность”.

Искусственный интеллект, искусственные социальные системы и стимулы, заставляющие тратить больше внимания в сети, содействуют этому процессу.

В то время как у нас накапливается большое количество проблем, которые нужно решать сообща, например, изменение климата, наша способность делать это быстро деградирует. Поэтому Харрис считает, что мы пошли не по тому пути в мире технологий. И курс нужно менять.

10. Конспирологические теории могут только множиться, так как технологии предоставляют для этого все больше возможностей. Например, искусственный интеллект уже может создавать с нуля лица людей в динамике, которые практически не отличишь от настоящих. Это еще один трюк для манипуляций общественным сознанием.

Очертив все проблемы, которые создают нам tech-гиганты и их современные технологии, Харрис предложил вариант противодействия. Нужно заставить ИИ, социальные сети и стимулирующие инструменты в сети работать на содействие гуманности людей, помогать им экономить время, а не тратить его.