Арест Трампа и блекаут в США. Как с помощью ИИ создают фейковые исторические события

Раздел Midjourney на форуме Reddit переполнен картинками, якобы отображающими исторические события. Среди них – "пресловутый инцидент голубой чумы", произошедший в 1970-х годах в Советском Союзе, "супершторм и отключение электроэнергии в июле 2012 года" в США и "большая катастрофа 2001 года – девятибалльное землетрясение и цунами в Орегоне", опустошившие западное побережье Северной Америки.

Ничего из этого на самом деле  не было. Liga.Tech публикует перевод статьи Vice о том, как пользователи интернета придумывают с помощью нейросетей события, которые никогда не происходили.

Все меньше ошибок в изображениях

Каждая публикация на форуме содержит слайд-шоу с рядом изображений. Они показывают разные ракурсы происшествия, а также то, что происходило после катастрофы – пресс-конференции и ликвидацию последствий. Загвоздка в том, что все эти изображения созданы искусственным интеллектом.

Midjourney – это искусственный интеллект-генератор текста в изображение, похожий на DALL-E OpenAI и Stable Diffusion от Stability.AI. Midjourney работает на своей пятой версии, первая же версия была впервые выпущена в июле 2022 года. Генератор изображений искусственного интеллекта, ранее допускавший ошибки, например, изображая руки с шестью пальцами и странной анатомией, значительно улучшил свои способности. Теперь Midjourney почти идеально отображает человеческую руку.

Вымышленные катастрофы

Пользователи Reddit с помощью искусственного интеллекта создают реалистичные изображения того, что не существовало. Они имитируют стиль фотографий определенной эпохи и "встраивают" в них знаменитостей и политиков. Пользователь Reddit Arctic_Chilean, придумавший солнечный супершторм и затмение в июле 2012 года, сделал слайд-шоу с фото и добавил к ним подписи, все это – в хронологическом порядке. И это действительно похоже на настоящие фоторепортажи.

"Президент Обама обращается к нации вечером 17 июля. По всей стране готовятся к минимизации ожидаемого влияния на энергосистему", – говорится в подписи к изображению, созданному искусственным интеллектом, на котором Барак Обама выступает в Белом доме. "Полярные сияния были одними из самых сильных, когда-либо зарегистрированных в истории Великобритании, их заметили над Лондоном впервые с 1859 года", – говорится в подписи к другому фото с зелеными полярными сияниями над Вестминстерским дворцом.

Фейковый папа и посадка на Луну

"По поводу MidJourney – я считаю, что он прекрасно справился с эстетикой новостей начала 2010-х, а также с фотографиями полярного сияния над известными достопримечательностями и ориентирами. Наибольшей проблемой была полная неспособность программы генерировать изображение блекаута в городе", – говорит реддитер Arctic_Chilean.

В другой публикации пользователь по имени FinewithIX, чье настоящее имя – Джордан Роун, опубликовал коллаж из четырех изображений, на которых показана "постановка высадки на Луну в 1969 году". Изображения имитируют зернистое пленочное качество фотографий, сделанных в конце 60-х годов, и показывают бэкстейдж съемки якобы фейковой посадки на Луну. Это перекликается с конспирологической теорией о том, что американские астронавты на самом деле не совершили посадку на Луну – она была снята в павильоне.

Пользователи немедленно отреагировали на изображение, выразив обеспокоенность тем, как Midjourney и другие нейросети теперь могут стать оружием конспирологов для распространения ложной исторической информации.

Яркий пример – изображение папы римского в белом пуховике и с цепью с крестом на нем, которое стало вирусным в конце марта. С момента публикации на Reddit 24 марта изображение попало в Twitter, где многие пользователи поверили, что это не фейк.

В марте Элиот Хиггинс, соучредитель группы журналистских расследований Bellingcat, опубликовал в Twitter поддельные изображения ареста Трампа, не обозначая их как созданные нейросетью. Это заставило многих людей поверить, что его действительно арестовали.

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Как борются с фейками

Сейчас эксперты по искусственному интеллекту и компании социальных сетей сосредоточены на поиске способов ограничить распространение дезинформации. Сэм Грегори, исполнительный директор правозащитной организации Witness, рассказал The Washington Post, что его команда объединилась с экспертами, чтобы определить способы поддержать новые технологии, одновременно предотвращая распространение дезинформации.

Даже если сгенерированные изображения гиперреалистичны, внимательное их изучение все равно обнаружит яркие признаки работы нейросети. Например, на картинках с арестом Трампа можно заметить, что у него есть полицейский ремень, а его лицо и руки искажены.

На прошлой неделе TikTok объявил, что все дипфейки или манипуляционный контент, показывающий реалистичные сцены, должны быть обозначены как фейковые, а дипфейки публичных деятелей нельзя использовать для политического и коммерческого контента. А в правилах Twitter теперь указано, что "вы не можете делиться синтетическими, манипуляционными или вырванными из контекста медиа, которые могут ввести в заблуждение или запутать людей и нанести вред".