Арешт Трампа та блекаут в США. Як за допомогою нейромереж створюють фейкові історичні події
Розділ Midjourney на форумі Reddit переповнений картинками, які нібито відображають історичні події. Серед них – "сумнозвісний інцидент блакитної чуми", що стався в 1970-х роках у Радянському Союзі, "супершторм і відключення електроенергії у липні 2012 року" в США та "велика катастрофа 2001 року – девʼятибальний землетрус і цунамі в Орегоні", що спустошили західне узбережжя Північної Америки.
Нічого з цього справді не сталося. Liga.Tech публікує переклад статті Vice про те, як користувачі інтернету вигадують за допомогою нейромереж події, які ніколи не відбувалися.
Все менше помилок у зображеннях
Кожна публікація на форумі містить слайд-шоу з рядом зображень. Вони показують різні ракурси події, а також те, що відбувалося після катастрофи – пресконференції та ліквідацію наслідків. Заковика в тому, що всі ці зображення створені штучним інтелектом.
Midjourney — це штучний інтелект-генератор тексту в зображення, схожий на DALL-E OpenAI і Stable Diffusion від Stability.AI. Наразі Midjourney працює на своїй п’ятій версії, першу ж версію було вперше випущено в липні 2022 року. Генератор зображень штучного інтелекту, який раніше допускав помилки, наприклад, зображував руки з шістьма пальцями та дивною анатомією, значно покращив свої здібності. Тепер Midjourney майже ідеально відображає людську руку.
Вигадані катастрофи
Користувачі форуму Reddit за допомогою штучного інтелекту створюють реалістичні зображення того, що не існувало. Вони імітують стиль фотографій певної епохи та "вбудовують" у них знаменитостей і політиків. Користувач Reddit Arctic_Chilean, який вигадав сонячний супершторм і затемнення в липні 2012 року, зробив слайд-шоу із фото та додав до них підписи, все це – у хронологічному порядку. І це дійсно схоже на справжні фоторепортажі.
"Президент Обама звертається до нації ввечері 17 липня. У всій країні готуються до мінімізації очікуваного впливу на енергосистему", — йдеться у підписі до зображення, створеного штучним інтелектом, на якому Барак Обама виступає у Білому домі. "Полярні сяйва були одними з найсильніших, з будь-коли зареєстрованих в історії Великої Британії, їх помітили над Лондоном вперше після з 1859 року", — йдеться в підписі до іншого фото з зеленими полярними сяйвами над Вестмінстерським палацом.
Фейковий папа та посадка на Місяць
"Щодо MidJourney – я вважаю, що він чудово впорався з естетикою новин початку 2010-х, а також з фотографіями полярного сяйва над відомими памʼятками та орієнтирами. Найбільшою проблемою була повна нездатність програми генерувати зображення блекауту в місті", – каже реддітер Arctic_Chilean.
В іншій публікації користувач, на ім'я FinewithIX, чиє справжнє ім’я – Джордан Роун, опублікував колаж із чотирьох зображень, на яких показано "постановку висадки на Місяць у 1969 році". Зображення імітують зернисту плівкову якість фотографій, зроблених наприкінці 60-х років, і показують бекстейдж зйомки нібито фейкової посадки на Місяць. Це перегукується із конспірологічною теорією про те, що американські астронавти насправді не здійснили посадку на Місяць – вона була знята у павільйоні.
Користувачі негайно відреагували на зображення, висловивши занепокоєння щодо того, як Midjourney та інші нейромережі тепер можуть стати зброєю конспірологів для поширення неправдивої історичної інформації.
Яскравий приклад – зображення папи римського у білому пуховику та з ланцюгом з хрестом на ньому, яке стало вірусним наприкінці березня. З моменту публікації на Reddit 24 березня зображення потрапило до Twitter, де багато користувачів повірили, що це не фейк.
У березні Еліот Хіггінс, співзасновник групи журналістських розслідувань Bellingcat, опублікував у Twitter підроблені зображення арешту Трампа, не позначаючи їх як створені нейромережею. Це змусило багатьох людей повірити, що його справді заарештували.
Як борються з фейками
Зараз експерти зі штучного інтелекту та компанії соціальних мереж зосереджені на пошуку способів обмежити поширення дезінформації. Сем Грегорі, виконавчий директор правозахисної організації Witness, розповів The Washington Post, що його команда об’єдналася з експертами, щоб визначити способи підтримати нові технології, одночасно запобігаючи поширенню дезінформації.
Навіть якщо згенеровані зображення є гіперреалістичними, уважніше їх вивчення все одно виявить яскраві ознаки роботи нейромережі. Наприклад, на картинках з арештом Трампа можна помітити, що він має на собі поліцейський ремінь, а його обличчя та руки спотворені.
Минулого тижня TikTok оголосив, що всі дипфейки або маніпуляційний контент, який показує реалістичні сцени, повинні бути позначені як фейкові, а дипфейки публічних діячів не можна використовувати для політичного та комерційного контенту. А у правилах Twitter відтепер зазначено, що "ви не можете ділитися синтетичними, маніпуляційними або вирваними з контексту медіа, які можуть ввести в оману або заплутати людей і завдати шкоди".
