Экс-директор разведки СНБ США: ольгинские тролли атакуют Украину

 Перед вторым туром выборов журналистам LIGA.net удалось пообщаться с Дэвидом Аграновичем, руководителем специального подразделения Facebook, которое отвечает за противодействие распространению глобальных угроз.  А особенно во время избирательных процессов. 

Агранович входит в список Forbes 30 under 30 в категории Law&Policy. Ему 28 лет. Он присоединился к Facebook в прошлом году. Несмотря на свой возраст, Дэвид уже успел поработать директором разведки Cовета национальной безопасности США.

Дэвид координировал операцию по изгнанию 153 российских разведчиков из США и 29 других стран в ответ на нападение с применением нервно-паралитического газа в Великобритании в 2018 году (когда пытались отравить бывшего российского разведчика Сергея Скрипаля).

Он также занимался защитой инфраструктуры выборов США. Агранович занимал различные руководящие должности в Министерстве обороны США, где отвечал за вопросы организованной преступности, коррупции, а также российской стратегии.

Он внес вклад в Putin's Kleptocracy, бестселлер New York Times, который раскрыл сеть темных денег, подпитывающую российских олигархов.

Команда Аграновича проводит расследования и операции по блокировке скоординированного нетипичного поведения аккаунтов в сети Facebook. Его команда включает людей, которые отслеживают нетипичное поведение аккаунтов и проводят детальное расследование - выясняет, является ли их целью обман или введение в заблуждение, пропаганда, подрыв национальной безопасности. Другая часть команды пытается залатать дыры, которые допускают присутствие таких скоординированных действий на платформе.

Агранович пообщался с журналистом Liga.Tech из офиса Facebook в Менло-Парке.

- Как вы определяете, что группа аккаунтов является управляемой и действует с нарушениями вашей политики?

- Когда мы проводим расследования и ищем сети (фейковых аккаунтов), мы всецело сосредоточиваемся на поведении, которое проявляют действующие субъекты, а не на контенте, который они постят. Нам удалось обнаружить: поведенческие сигналы гораздо более полезные для идентификации подозрительной активности на Facebook. Такая тактика [не опираться на контент] предохраняет сотрудников соцсети от использования их собственных предубеждений при последующих действиях. Когда решается, какие заявления допустимы, а какие - нет.

Мы удалили в 2018 году, вероятно, чуть более чем 20 скоординированных сетей во всему миру. А в этому году, я думаю, мы уже превысили это число. То есть очень агрессивно развиваем нашу деятельность на платформе.

- Это в основном действия сетей, нацеленные на Украину из России?

- Цифра, которую я назвал, касается всего мира. Когда мы говорим о скоординированном, вводящем в заблуждение поведении, мы подразумеваем несколько различных видов игроков. Это могут быть правительства. Но мы также видим большое количество негосударственных игроков. Это могут быть группы людей или организаций. Мы также видим, что они могут быть мотивированы политически (преследуют людей в стране по политическим причинам) или финансово (пытаются заработать деньги - исправлено).

Хороший пример - македонские странички с фейковыми новостями. Они целились на США, Великобританию, Австралию с целью заработка денег. Мы удалили их две недели назад.   

Фейковые активности также различаются по принципу, ориентированы ли они на внутренний рынок или направлены на заграницу.

В этом году мы уже провели несколько “чисток” операций, направленных на Украину. О завершении одной из операций было объявлено 17 января. Вы, вероятно, слышали, это было больше ста страниц, групп и аккаунтов, а также 41 учетная запись из Instagram.

Это была сеть с корнями из России, работающая в Украине и представляющая себя как украинская.  В то время мы посчитали, что эта сеть имеет признаки Internet Research Agency (IRA, с этой компанией связывали кремлевских троллей из Ольгино - Ред.).

Мы также удалили группу из почти 2000 аккаунтов и страниц, которая также управлялась из России. Но в этом случае мы не посчитали, что эта сеть имеет отношение к правительству. Вероятно, это были отдельные лица из России.

Один из вызовов для нас, откровенно говоря, это приписывать поведение к определенным группам. Мы пытаемся находить настолько много деталей, насколько это возможно. Но иногда мы ограничены здесь.

 - Все наслышаны о ботофермах в России. Что вы о них вообще слышали?

- Когда речь заходит именно о бот-аккаунтах на Facebook, нам тут относительно повезло. Наша политика позволяет классифицировать такую активность, как явное нарушение. Мы требуем от людей использовать реальное имя, требуем не использовать автоматизированные способы ведения аккаунтов или постов. А наши автоматизированные системы довольно неплохо справляются с тем, чтобы идентифицировать бот-аккаунты. Так как они не выглядят, как реальные люди, не ведут себя как реальные люди, не имеют таких же взаимосвязей, как у реальных людей.

У нас также есть люди-расследователи, которые подключаются, когда автоматизированные системы не справляются. Или когда автоматизированные системы находят что-то подозрительное, но не могут сами принять решение, чтобы удалить это.

- То есть такие автоматизированные сети ботов уже практически не существуют?

- Тут я бы ответил, используя в том числе свой опыт работы в Совете Национальной безопасности и в правительстве, не только в Facebook. Так вот, не думаю, что критерием успеха может вообще быть то, что они не существуют. Критерий успеха в том, что мы можем находить их и удалять, значительно усложняя им жизнь, увеличивать стоимость для такой деятельности. Мы рассматриваем этот вопрос так же, как и другие вопросы кибербезопасности. Как DDOS-атаки. Нельзя сказать, что они уже не существуют.

Мы пытаемся удалять не только бот-аккаунты. Мы в принципе удаляем все активы на Facebook, которые использовались их организаторами. Любые страницы, группы, ивенты, которые они создавали и администрирование. Всю инфраструктуру. Если они захотят вернуться на платформу, придется все отстраивать с нуля.

Потом мы собираемся с инженерами и думаем, как усложнить жизнь таким деятелям. Например ферма троллей в Македонии, в Косово, которую мы недавно раскрыли, использовала местные аккаунты, которые прикидывались американцами и австралийцами и распространяла фейковые новости в других странах с целью заработка. И единственная вещь, которой они прикрывались - не было известно, где находятся админы страниц, которыми они управляли. Мы это изменили. И теперь они не могут притворяться, что находятся в США, когда на самом деле они находятся в Македонии (исправлено).

Еще один пример. Во время выборов в США в 2016 году были опасения, что россияне из IRA будут использовать рекламу на Facebook. Мы сделали несколько вещей. Первое - чтобы давать такую рекламу, надо находиться в США, а не в России. Возможно ли, что российские спецслужбы заангажируют людей в Штатах для верификации рекламы? Да, но это уже будет значительно дороже. И появится риск,что их поймают. Может, не мы, а ФБР, например. В дополнение к этому мы раскрыли эту рекламу для общественности. То есть кто угодно, журналисты, исследователи могут видеть, какая идет реклама.

- Можете сравнить методы и тактику подозрительных групп, которая применялась в Facebook на американских выборах в 2016 году, и тактику, которая применяется в 2019 году на украинских выборах?

- Я из украинской семьи (улыбается). Украинские выборы вообще очень важны для нас как для компании по огромному ряду причин. Мы знаем, что такие игроки как Россия собираются тестировать определенные тактики в Украине. И нам нужно быть уверенными, что мы их быстро определим и удалим. За последние два года мы видели, что IRA использовала много фейковых аккаунтов, сетей для своих рабочих целей, фейковых новостей. Но, видимо, с той стороны поняли, что нам стало легче приостанавливать их деятельность. С течением времени мы видим все больше попыток вести операции через легитимные пути.

Возьмем январский пример, который ассоциируется с операцией IRA. Да, были фейковые аккаунты, вовлеченные в создание страниц. Но целью было заполучить реальные комьюнити, чтобы продвигать материалы дальше. Мы видели это в США. И я думаю, что это начало происходить по всему миру. Началась более сложная игра. Они пытались вовлечь местных политиков, журналистов, симпатизирующие местные сообщества, чтобы расшеривать контент уже от их имени. Так как если такое происходит, уже гораздо сложнее отключить сеть, так как пришлось бы цензурировать политические высказывания.  

Еще одно изменение тактики, которые мы увидели. Изменение результатов выборов - это не одна единственная цель. Цель - подрыв общественного доверия. Мы с таким сталкивались уже в 2018 году в США в ходе промежуточных выборов. Российская IRA не пыталась выбросить порцию пропаганды по одному из кандидатов, а пыталась внушить, что людям нельзя доверять выборам, как таковым. Так как якобы везде было участие IRA.

Что самое интересное, этому факту не нашлось реального подтверждения. Все обсуждали, что россияне поддерживают разных кандидатов, вмешиваются в выборы, что у них есть тысячи аккаунтов. Но в реальности, ничего не было доказано.  Это стало причиной того, что моя команда начала строить партнерства с традиционными медиа и общественными группами. Мы понимали, что даже если мы удалим эту активность, нам уже все равно понадобится поддержка журналистского сообщества, правительства.

- Находили ли вы фермы троллей в Украине, которые работают на другие страны?

- Мы пока не находили и не удаляли большие сети фейковых аккаунтов, которые работают в Украине на другие страны. Но это не означает, что их не существует. Если найдем, то начнем расследовать и заниматься ими.