14.08.2019, 18:52

Facebook, Amazon и Apple попались. Как и зачем они нас слушают на смартфонах

Коллаж: Маша Ксендзик

Команда американцев и филиппинцев помогала искусственному интеллекту Facebook анализировать аудио-сообщения пользователей.

Мифы о том, что кто-то может подслушивать наши разговоры через смартфон, становятся реальностью. Но речь, к счастью, не о злостных конкурентах или искателей компромата, а о разработчиках приложений, которые тестируют новые фичи. 

Искусственный интеллект пока не справляется с автоматизированным анализом голоса. Поэтому Марк Цукерберг прибегает к помощи филиппинцев. Они слушают, какие сообщения передают пользователи, и иногда очень удивляются. 

Facebook Inc. платит сотням сторонних подрядчиков за то, что они помогают преобразовывать в текст аудиозаписи пользователей своих сервисов. Об этом написали журналисты Bloomberg со ссылкой на свои источники, которые якобы знают, как выполняется такая работа.

Такая работа взволновала самих же контрактных сотрудников, которым не сказали, где были записаны аудиосообщения или как они были получены. По заданию их нужно было транскрибировать. На правах анонимности из-за страха потерять работу сотрудники все-таки поделились этим с журналистами. 

В списке третьих лиц, с которыми Facebook делится информацией, он не упоминает команду, которая занимается транскрипцией, но ссылается на «поставщиков услуг, которые поддерживают бизнес», «анализируя, как используются наши продукты».

Цукерберга застали врасплох. Facebook подтвердил, что он транскрибирует аудио пользователей, и заявил, что больше не будет этого делать после детального анализа других компаний. «Так же, как Apple и Google, мы приостановили проверку людьми аудио более недели назад», - сообщили в компании. 

В комментарии для Liga.Tech представитель Facebook подчеркнул, что звуковые фрагменты, описанные в статье Bloomberg, были замаскированы, чтобы не раскрывать личность кого-либо. Они использовались только для улучшения продуктов, таких как искусственный интеллект.

Компания заявила, что пользователи, которых коснулась такая обработка, сами выбрали опцию в приложении Messenger Facebook, чтобы их голосовые чаты могли превращаться в текст. Подрядчики при этом проверяли, правильно ли искусственный интеллект Facebook интерпретировал сообщения, которые были анонимными.

Facebook впервые начал позволять пользователям Messenger транскрибировать свои аудиозаписи в 2015 году.

Все крупные компании этим занимались

Крупные технологические компании, в том числе Amazon и Apple, тоже подверглись критике за сбор аудиофрагментов с потребительских устройств и проверку этих клипов усилиями живых людей. По мнению критиков, это нарушает конфиденциальность. 

Bloomberg впервые сообщил в апреле, что Amazon имеет команду из тысяч сотрудников по всему миру, которые слушают аудиозапросы Alexa с целью улучшения программного обеспечения. Постоянные работники компании из нескольких стран, среди которых США, Коста-Рика и Румыния, прослушивают голосовые команды и другие фразы пользователей умной колонки Echo. По данным CNN, чаще всего это бывают повседневные сообщения, однако некоторые из них могут носить «потенциально криминальный» характер.

Аналогичный “человеческий труд” использовался для Google Assistant и Apple Siri. Позже Apple и Google заявили, что они больше не участвуют в этой практике, а Amazon заявил, что он позволит пользователям отказаться от анализа аудио со стороны человека.

Facebook, на которой Федеральная торговая комиссия наложила штраф в размере $5 млрд за утечку персональных данных, давно отрицает, что он собирает аудио от пользователей для информирования рекламных кампаний или определения того, что люди видят в своих новостных лентах. Генеральный директор Марк Цукерберг отрицал это непосредственно в показаниях Конгресса.

«Вы говорите об этой теории заговора, которая распространяется вокруг того, что мы слушаем то, что происходит на вашем микрофоне, и используем это для рекламы, - сказал Цукерберг сенатору США Гэри Питерсу в апреле 2018 года. - Мы этого не делаем».

Кто слушает Facebook

В последующих ответах для Конгресса Facebook заявила, что “получает доступ к микрофону пользователей только в том случае, если пользователь дал разрешение нашему приложению и если они активно используют особую функцию, требующую записи аудио (например, функции голосовых сообщений)”. 

Facebook не сообщил пользователям, что третьи лица могут прослушивать их аудио. Это привело к тому, что даже некоторые подрядчики начали считать, что их работа неэтична.

По информации собеседников Bloomberg, есть по крайней мере, одна фирма, которая прослушивает разговоры пользователей. Это компания TaskUs Inc. Она расположена в Санта-Монике, Калифорния, и работает с аутсорсингом по всему миру. По информации Liga.Tech, подрядчик, помимо американских офисов, также имеет центры на Филиппинах и на Тайване.  

Facebook является одним из крупнейших и наиболее важных клиентов TaskU, но сотрудникам не разрешается публично указывать, для кого предназначена их работа. Они называют клиента под кодовым названием Prism.

Facebook также использует TaskUs для просмотра контента, который может нарушать правила соцсети. Есть также группы сотрудников TaskUs, которые работают над подготовкой к выборам и проверкой политической рекламы. И некоторые из этих сотрудников недавно были переведены в новую команду по переводу аудио в текст.

«Facebook попросил TaskUs приостановить эту работу более недели назад, и это произошло», - сказал TaskUs в ответ на запрос Bloomberg о комментариях по поводу работы над транскрипцией голосовых сообщений.

Роль людей в анализе записей указывает на пределы искусственного интеллекта и его способности распознавать слова и речевые паттерны. Машины лучше справляются с поставленной задачей, но иногда все еще сталкиваются с незнакомым. То, что некоторые подрядчики сочли записанный контент тревожным, является еще одним напоминанием о том, что люди контролируют контент на Facebook, крупнейшей в мире социальной сети.


редактор ЛІГА.Tech
Стас Юрасов
Теги: facebook, Amazon, apple
Если Вы заметили орфографическую ошибку, выделите её мышью и нажмите Ctrl+Enter.
ПОСЛЕДНИЕ НОВОСТИ