Арест Трампа и блекаут в США. Как с помощью ИИ создают фейковые исторические события
Раздел Midjourney на форуме Reddit переполнен картинками, якобы отображающими исторические события. Среди них – "пресловутый инцидент голубой чумы", произошедший в 1970-х годах в Советском Союзе, "супершторм и отключение электроэнергии в июле 2012 года" в США и "большая катастрофа 2001 года – девятибалльное землетрясение и цунами в Орегоне", опустошившие западное побережье Северной Америки.
Ничего из этого на самом деле не было. Liga.Tech публикует перевод статьи Vice о том, как пользователи интернета придумывают с помощью нейросетей события, которые никогда не происходили.
Все меньше ошибок в изображениях
Каждая публикация на форуме содержит слайд-шоу с рядом изображений. Они показывают разные ракурсы происшествия, а также то, что происходило после катастрофы – пресс-конференции и ликвидацию последствий. Загвоздка в том, что все эти изображения созданы искусственным интеллектом.
Midjourney – это искусственный интеллект-генератор текста в изображение, похожий на DALL-E OpenAI и Stable Diffusion от Stability.AI. Midjourney работает на своей пятой версии, первая же версия была впервые выпущена в июле 2022 года. Генератор изображений искусственного интеллекта, ранее допускавший ошибки, например, изображая руки с шестью пальцами и странной анатомией, значительно улучшил свои способности. Теперь Midjourney почти идеально отображает человеческую руку.
Вымышленные катастрофы
Пользователи Reddit с помощью искусственного интеллекта создают реалистичные изображения того, что не существовало. Они имитируют стиль фотографий определенной эпохи и "встраивают" в них знаменитостей и политиков. Пользователь Reddit Arctic_Chilean, придумавший солнечный супершторм и затмение в июле 2012 года, сделал слайд-шоу с фото и добавил к ним подписи, все это – в хронологическом порядке. И это действительно похоже на настоящие фоторепортажи.
"Президент Обама обращается к нации вечером 17 июля. По всей стране готовятся к минимизации ожидаемого влияния на энергосистему", – говорится в подписи к изображению, созданному искусственным интеллектом, на котором Барак Обама выступает в Белом доме. "Полярные сияния были одними из самых сильных, когда-либо зарегистрированных в истории Великобритании, их заметили над Лондоном впервые с 1859 года", – говорится в подписи к другому фото с зелеными полярными сияниями над Вестминстерским дворцом.
Фейковый папа и посадка на Луну
"По поводу MidJourney – я считаю, что он прекрасно справился с эстетикой новостей начала 2010-х, а также с фотографиями полярного сияния над известными достопримечательностями и ориентирами. Наибольшей проблемой была полная неспособность программы генерировать изображение блекаута в городе", – говорит реддитер Arctic_Chilean.
В другой публикации пользователь по имени FinewithIX, чье настоящее имя – Джордан Роун, опубликовал коллаж из четырех изображений, на которых показана "постановка высадки на Луну в 1969 году". Изображения имитируют зернистое пленочное качество фотографий, сделанных в конце 60-х годов, и показывают бэкстейдж съемки якобы фейковой посадки на Луну. Это перекликается с конспирологической теорией о том, что американские астронавты на самом деле не совершили посадку на Луну – она была снята в павильоне.
Пользователи немедленно отреагировали на изображение, выразив обеспокоенность тем, как Midjourney и другие нейросети теперь могут стать оружием конспирологов для распространения ложной исторической информации.
Яркий пример – изображение папы римского в белом пуховике и с цепью с крестом на нем, которое стало вирусным в конце марта. С момента публикации на Reddit 24 марта изображение попало в Twitter, где многие пользователи поверили, что это не фейк.
В марте Элиот Хиггинс, соучредитель группы журналистских расследований Bellingcat, опубликовал в Twitter поддельные изображения ареста Трампа, не обозначая их как созданные нейросетью. Это заставило многих людей поверить, что его действительно арестовали.
Как борются с фейками
Сейчас эксперты по искусственному интеллекту и компании социальных сетей сосредоточены на поиске способов ограничить распространение дезинформации. Сэм Грегори, исполнительный директор правозащитной организации Witness, рассказал The Washington Post, что его команда объединилась с экспертами, чтобы определить способы поддержать новые технологии, одновременно предотвращая распространение дезинформации.
Даже если сгенерированные изображения гиперреалистичны, внимательное их изучение все равно обнаружит яркие признаки работы нейросети. Например, на картинках с арестом Трампа можно заметить, что у него есть полицейский ремень, а его лицо и руки искажены.
На прошлой неделе TikTok объявил, что все дипфейки или манипуляционный контент, показывающий реалистичные сцены, должны быть обозначены как фейковые, а дипфейки публичных деятелей нельзя использовать для политического и коммерческого контента. А в правилах Twitter теперь указано, что "вы не можете делиться синтетическими, манипуляционными или вырванными из контекста медиа, которые могут ввести в заблуждение или запутать людей и нанести вред".