Содержание:
  1. Проект "Вепрь" – автоматизированный поиск "экстремистов"
  2. Ботоферма для шпионажа в закрытых группах
  3. Распознавание лиц и цензура фотожаб

Роскомнадзор – главное цензурное ведомство РФ. Оно годами отыскивает и блокирует информацию, противоречащую пропагандистской политике государства. Ранее мониторинг интернета осуществлялся вручную – программы фильтровали материалы по поисковым словам, а сотрудники Роскомнадзора их проверяли.

Читайте о бизнесе без политики на канале LIGA.Бізнес

Однако сейчас у руководства пропагандистской машины более амбициозные планы – привлечь к цензурированию разработки искусственного интеллекта (ИИ) и машинного обучения. В ноябре 2022 года хакеры из группировки "Киберпартизаны" заявили, что сломали внутреннюю сеть Главного радиочастотного центра, входящего в структуру Роскомнадзора.

В центре подтвердили факт самой кибератаки, но заявили, что оппозиционным к российским властям хакерам не удалось получить никакой информации. "Киберпартизаны" заявили о выгрузке внутренних документов и переписки сотрудников Росконадзора более чем на 2 ТБ.

Эти документы они передали немецкому изданию Süddeutsche Zeitung и заблокированному в России изданию "Важные истории", которые сделали подробный анализ и пересказ того, что планируют российские цензоры. Коротко рассказываем, как РФ собирается контролировать весь русскоязычный интернет с помощью технологии и удастся ли ей это сделать.

Проект "Вепрь" – автоматизированный поиск "экстремистов"

Уже несколько лет Роскомнадзор работает над проектом "Вепрь". Его главные обязанности – анализировать материалы в соцсетях и на основе этого анализа выявлять так называемые "точки напряженности" (распространения публикаций, которые могут вызвать реакцию в обществе), прогнозировать "информационные угрозы" и передавать данные в "уполномоченные органы", то есть ФСБ.

"Правый сектор" и фотожабы на Путина. Хакеры раскрыли цели цензоров из РФ – что там еще
Протесты против блокировки Telegram в РФ, 2018 год. Фото: EPA

В общем хакеры опубликовали перечень из 100 тем, которые якобы должен отслеживать "Вепрь". Среди них информация о происходящем на временно оккупированных территориях Украины, здоровье российского диктатора Владимира Путина, конечно, сам Роскомнадзор.

Большинство пунктов идет под грифами "дестабилизация общества" и "национализм", включающие любую критику русских властей, проблемы изучения национальных языков и призывы "к экстремистским" (в понимании руководства РФ) действиям.

Чтобы понять возможности такой системы, российским пропагандистам было поручено изучить уже существующие способы цензуры в интернете. В частности, они ориентировались на Китай, где такую систему можно назвать самой сложной в мире.

"Вепрь" также сможет составлять психологические портреты распространяющих такую информацию и прогнозировать возможные последствия.

Ботоферма для шпионажа в закрытых группах

Чтобы получить достаточно информации, в Роскомнадзоре планируется создать ботоферму – много поддельных аккаунтов в социальных сетях, которые помогут попасть в закрытые сообщества.

Как говорится в документах, полученных хакерами, система должна была заработать в конце 2023 года. Однако из-за полномасштабного вторжения в Украину это может произойти позже. В письме руководителя отдела цифровой трансформации Главного радиочастотного центра РФ говорится о нехватке людей. Их сотрудники выполняют более важные задачи по заказу государства. На предложение привлекать новых IT-специалистов он прямо отвечает, что те их "пошлют". Ни денег, ни интересных технологий у них нет, пятнать репутацию работой с Роскомнадзором тоже никто не хочет.

"Вепрь" – только часть крупной машины цензуры, над которой работает РФ. Ее архитектура состоит из Информационной системы "Мир", которая с помощью нейросетей должна искать запрещенную информацию, Единого модуля анализа (ЕМА), куда попадают эти файлы, и проекта "Вепрь", который будет ее анализировать.

Система должна анализировать 200 000 изображений в сутки и отчитываться о сравнениях Путина с Гитлером или оборотнем

Пока нет подтверждений, что ЕМА уже способен находить такие нарушения. В документах, попавших в СМИ, упоминается только о найденной в Яндексе запрещенной информации о наркотиках, суициде, детской порнографии, ИГИЛ и "Правом секторе". Другие планы – такие как поиск "зеркал" запрещенных сайтов, отслеживание путей распространения информации и т.п. – пока не реализованы.

Автоматически нарушения мониторятся только в соцсетях "ВКонтакте", "Одноклассники", "Мой мир", "Ответы Mail.ru", "Живой журнал" и YouTube. Остальные соцсети – Instagram, Facebook, Twitter, TikTok, Telegram, Rutube – сотрудники ГРЧЦ мониторят вручную и только планируют ввести автоматизацию.

Распознавание лиц и цензура фотожаб

Призывы к митингам на картинках и фотожабы на президента РФ сотрудникам Роскомнадзора все еще приходится искать вручную. Чтобы исправить это, пропагандисты разрабатывают систему "Окулус". Система должна анализировать 200 000 изображений в сутки и отчитываться о сравнениях Путина с Гитлером или оборотнем. В 2022-2024 годах на ее разработку планируется потратить 445 миллионов рублей.

Она должна дополнить ЕМА таким образом, чтобы это позволило автоматически распознавать изображения и видео и находить в них нарушения, метаданные (время, место публикации, автора), идентифицировать людей на фото.

По планам Роскомнадзора к 2024 году "Окулус" должен научиться классифицировать действия не только на фото, но и видео. И только потом взяться за мемы. Разработчики проекта признают, что это сложно, потому что для этого искусственный интеллект должен понимать контексты интернет-культуры и связь с предыдущими событиями.

Подписывайтесь на LIGA.Tech в Telegram: главные новости мира технологий

Впрочем, "Окулус" может похвастаться разве что умением распознавать порезы на запястьях, запрещенные символы, "зацепинг" (опасное катание снаружи поездов. – Ред.) и идентифицировать личность человека в маске. По крайней мере, это демонстрировало руководство научно-технического центра в 2022 году. Никаких результатов, связанных с идентификацией протестной активности, они не показали.

Чтобы распознавать все фотожабы с Путиным во "ВКонтакте", пришлось бы привлечь большинство сотрудников пропагандистской российской соцсети

В августе 2022 года Роскомнадзор заплатил 58 миллионов рублей российской компании "Эксикьюшн Эр Ди Си". Они якобы должны были реализовать этот проект до декабря 2022 года. Но тогда эксперты заявили, что сделать это в такие сроки и за такие деньги невозможно.

В целом эксперты, с которыми поговорило издание, скептически относятся к возможности реализации этих масштабных планов. В теории это реализуемо, но неоправданно дорого. Только для того, чтобы распознавать все фотожабы с Путиным во ВКонтакте, пришлось бы привлечь большинство сотрудников пропагандистской российской соцсети.

Особый скепсис у экспертов вызывает проект "Вепрь", который должен прогнозировать будущие "информационные угрозы" и протестные настроения: "Кажется, бросать монетку будет эффективнее прогнозов такой системы".

Читайте также