Зміст:
  1. Все менше помилок у зображеннях
  2. Вигадані катастрофи
  3. Фейковий папа та посадка на Місяць
  4. Як борються з фейками

Розділ Midjourney на форумі Reddit переповнений картинками, які нібито відображають історичні події. Серед них – "сумнозвісний інцидент блакитної чуми", що стався в 1970-х роках у Радянському Союзі, "супершторм і відключення електроенергії у липні 2012 року" в США та "велика катастрофа 2001 року – девʼятибальний землетрус і цунамі в Орегоні", що спустошили західне узбережжя Північної Америки.

Читайте про бізнес без політики на каналі LIGA.Бізнес

Нічого з цього справді не сталося. Liga.Tech публікує переклад статті Vice про те, як користувачі інтернету вигадують за допомогою нейромереж події, які ніколи не відбувалися.

Все менше помилок у зображеннях

Кожна публікація на форумі містить слайд-шоу з рядом зображень. Вони показують різні ракурси події, а також те, що відбувалося після катастрофи – пресконференції та ліквідацію наслідків. Заковика в тому, що всі ці зображення створені штучним інтелектом.

Midjourney — це штучний інтелект-генератор тексту в зображення, схожий на DALL-E OpenAI і Stable Diffusion від Stability.AI. Наразі Midjourney працює на своїй п’ятій версії, першу ж версію було вперше випущено в липні 2022 року. Генератор зображень штучного інтелекту, який раніше допускав помилки, наприклад, зображував руки з шістьма пальцями та дивною анатомією, значно покращив свої здібності. Тепер Midjourney майже ідеально відображає людську руку.

Вигадані катастрофи

Арешт Трампа та блекаут в США. Як за допомогою нейромереж створюють фейкові історичні події
Джерело: Reddit

Користувачі форуму Reddit за допомогою штучного інтелекту створюють реалістичні зображення того, що не існувало. Вони імітують стиль фотографій певної епохи та "вбудовують" у них знаменитостей і політиків. Користувач Reddit Arctic_Chilean, який вигадав сонячний супершторм і затемнення в липні 2012 року, зробив слайд-шоу із фото та додав до них підписи, все це – у хронологічному порядку. І це дійсно схоже на справжні фоторепортажі.

"Президент Обама звертається до нації ввечері 17 липня. У всій країні готуються до мінімізації очікуваного впливу на енергосистему", — йдеться у підписі до зображення, створеного штучним інтелектом, на якому Барак Обама виступає у Білому домі. "Полярні сяйва були одними з найсильніших, з будь-коли зареєстрованих в історії Великої Британії, їх помітили над Лондоном вперше після з 1859 року", — йдеться в підписі до іншого фото з зеленими полярними сяйвами над Вестмінстерським палацом.

Фейковий папа та посадка на Місяць

"Щодо MidJourney – я вважаю, що він чудово впорався з естетикою новин початку 2010-х, а також з фотографіями полярного сяйва над відомими памʼятками та орієнтирами. Найбільшою проблемою була повна нездатність програми генерувати зображення блекауту в місті", – каже реддітер Arctic_Chilean.

Арешт Трампа та блекаут в США. Як за допомогою нейромереж створюють фейкові історичні події
Джерело: Reddit

В іншій публікації користувач, на ім'я FinewithIX, чиє справжнє ім’я – Джордан Роун, опублікував колаж із чотирьох зображень, на яких показано "постановку висадки на Місяць у 1969 році". Зображення імітують зернисту плівкову якість фотографій, зроблених наприкінці 60-х років, і показують бекстейдж зйомки нібито фейкової посадки на Місяць. Це перегукується із конспірологічною теорією про те, що американські астронавти насправді не здійснили посадку на Місяць – вона була знята у павільйоні.

Користувачі негайно відреагували на зображення, висловивши занепокоєння щодо того, як Midjourney та інші нейромережі тепер можуть стати зброєю конспірологів для поширення неправдивої історичної інформації.

Арешт Трампа та блекаут в США. Як за допомогою нейромереж створюють фейкові історичні події
Джерело: Reddit

Яскравий приклад – зображення папи римського у білому пуховику та з ланцюгом з хрестом на ньому, яке стало вірусним наприкінці березня. З моменту публікації на Reddit 24 березня зображення потрапило до Twitter, де багато користувачів повірили, що це не фейк.

У березні Еліот Хіггінс, співзасновник групи журналістських розслідувань Bellingcat, опублікував у Twitter підроблені зображення арешту Трампа, не позначаючи їх як створені нейромережею. Це змусило багатьох людей повірити, що його справді заарештували.

Як борються з фейками

Зараз експерти зі штучного інтелекту та компанії соціальних мереж зосереджені на пошуку способів обмежити поширення дезінформації. Сем Грегорі, виконавчий директор правозахисної організації Witness, розповів The Washington Post, що його команда об’єдналася з експертами, щоб визначити способи підтримати нові технології, одночасно запобігаючи поширенню дезінформації.

Навіть якщо згенеровані зображення є гіперреалістичними, уважніше їх вивчення все одно виявить яскраві ознаки роботи нейромережі. Наприклад, на картинках з арештом Трампа можна помітити, що він має на собі поліцейський ремінь, а його обличчя та руки спотворені.

Минулого тижня TikTok оголосив, що всі дипфейки або маніпуляційний контент, який показує реалістичні сцени, повинні бути позначені як фейкові, а дипфейки публічних діячів не можна використовувати для політичного та комерційного контенту. А у правилах Twitter відтепер зазначено, що "ви не можете ділитися синтетичними, маніпуляційними або вирваними з контексту медіа, які можуть ввести в оману або заплутати людей і завдати шкоди".