"Подумала, что это мое настоящее фото". ИИ "раздел" украинок в соцсети X: как защититься

Чат-бот Grok в X научился генерировать интимные изображения людей (в том числе несовершеннолетних) без их согласия. Теперь любой может попросить его "раздеть" человека на фотографии. С этим столкнулись и украинские пользователи.Можно ли опубликовать селфи так, чтобы из него не сделали нюдсы? А что делать, если ваши фотографии все же отредактировали – рассказали юрист и эксперт по ИИ.В бикини или нижнем белье: как Grok редактирует фотографии пользователейВ начале января пользователи социальной сети X заметили тревожную тенденцию: искусственный интеллект Grok от xAI начал генерировать сексуализированные изображения реальных людей.Вот как это выглядит: вы публикуете свою фотографию в X, а в комментариях к публикации кто-то упоминает встроенного чат-бота Grok и делает запрос, например: "Замени ее одежду на бикини или нижнее белье". В ответ Grok генерирует изображение.Таким образом, фотографии женщин и моделей по всему миру превратились в откровенные версии без их согласия. Как сообщает Reuters, на сексуализированных изображениях были даже несовершеннолетние."На миллисекунду подумала, что это моя настоящая фотография"Юрист и блогер Олеся Михайленко – одна из тех, кто столкнулся с "пикантным режимом". В комментариях к своему посту она увидела пять разных запросов к Grok. Среди них – просьба сгенерировать видео, где девушка раздевается."Я была шокирована, потому что изображение, сгенерированное Grok, выглядело очень реалистично, и на долю секунды я подумала, что это моя настоящая фотография в нижнем белье", – рассказывает Олеся для LIGA.net.Она пожаловалась в службу поддержки на каждое сгенерированное изображение и видео и заблокировала авторов контента. По ее словам, позже X удалил посты с видео и несколькими фотографиями, но одна осталась.Читайте такжеДеньги за видео и сториз. Как работает монетизация Facebook и сколько можно заработать"Я не буду меньше выкладывать фото в соцсети – не думаю, что это меня защитит. Пользователи смогут взять мои старые фотографии и размещать сгенерированные изображения в нижнем белье под моими новыми твитами. Думаю, им нравится ощущение, что они делают это без моего согласия, и я бессильна. Я не хочу давать им возможность чувствовать, что они контролируют то, что я буду публиковать в интернете", – поделилась блогер.Она добавила, что теперь готова к подобным атакам и намерена подавать жалобы на обидчиков без какой-либо публичной реакции, чтобы "не давать им кратковременной славы".Мастер по изготовлению украшений Дита лично не сталкивалась с "раздеванием" Grok, но видела такие случаи и также жаловалась авторам. По ее словам, обращения не были удовлетворены."Это отвратительная вещь, ведь кто угодно может превратить невинное селфи, например, во что-то непристойное против воли человека. Я не буду выкладывать фотографии украшений на себе в X. Это будут просто бюсты или стол, но теперь я хочу минимизировать там свои фотографии", – отмечает Дита для LIGA.net."Это не пикантно, это незаконно": реакция правительствВ Европейской комиссии отметили, что "хорошо осведомлены" о создании спорного контента, как пишет Reuters. "Это не пикантно. Это незаконно. Это ужасно. Это отвратительно. Так мы это видим, и этому нет места в Европе", – прокомментировал представитель Еврокомиссии Томас Ренье.Вот как отреагировали страны:министры Франции обратились в прокуратуру и сообщили о скандальных изображениях французскому регулятору медиа Arcom;британский регулятор Ofcom потребовал от X объяснений относительно того, какие меры были приняты для защиты пользователей;Министерство информационных технологий Индии потребовало от X ограничить генерацию сексуализированного контента Grok’ом. Платформе дали 72 часа на отчет, позже еще 72 часа – срок истек 7 января в 17:00 по индийскому времени.Федеральная комиссия по связи США не ответила на запросы журналистов. Федеральная торговая комиссия отказалась от комментариев, Министерство юстиции также проигнорировало ситуацию.Что ответил Илон Маск?Еще 1 января сотрудник xAI Парса Таджик отреагировал на первые жалобы: "Команда работает над усилением защитных механизмов".Агентство Reuters заявляет, что глава X Илон Маск сначала "пренебрег" возмущением по поводу злоупотреблений Grok – он публиковал эмодзи "смеюсь до слез" в ответ на посты, где "раздевали" публичных людей. Однако 3 января он написал в обсуждении: "Каждый, кто использует Grok для создания незаконного контента, понесет такие же последствия, как и в случае загрузки незаконного контента".Позднее этот тезис подтвердила команда безопасности X. Там утверждают, что удаляют нелегальные материалы, постоянно блокируют аккаунты, а также сотрудничают с властью и правоохранительными органами.В подобных случаях политика платформ должна быть прозрачной, чтобы люди понимали свои права, рассказывает LIGA.net эксперт по искусственному интеллекту Богдан Щербаков. Важен баланс, поскольку слишком жесткие фильтры заблокируют сгенерированные художественные работы или образовательный контент.Читайте также9 компаний, от которых будет зависеть развитие ИИ в 2025 году – инфографикаПубличные политики xAI напрямую запрещают "изображение лица в порнографическом виде" и "сексуализацию или эксплуатацию детей". Утверждается, что эти действия якобы нельзя инициировать с помощью сервиса.В Условиях использования также говорится о запрете сексуализации детей. xAI заявляет, что сообщает о случаях детской порнографии в Национальный центр пропавших и эксплуатируемых детей США. В системных инструкциях Grok уточняется, что чат-бот должен отказываться от создания материалов с детской порнографией.Кто контролирует безопасность и этичность ИИ и можно ли его взломатьКонтроль безопасности и этических стандартов ИИ трехуровневый, но система далека от идеала, продолжил Щербаков.Первый уровень – компании. Команды безопасности таких гигантов, как Anthropic, OpenAI, Google DeepMind, перед выпуском модели "ломают" ее, ища уязвимости. Второй уровень – регуляторы, а третий – независимые исследователи, которые проводят аудит моделей."Реальная проблема в том, что основной контроль остается в руках самих компаний. Они сами проводят тестирование, отчитываются и решают, что выпускать. Это все равно что доверить автопроизводителю самому проводить краш-тесты. Маленькие компании вообще могут игнорировать стандарты", – отмечает специалист.Читайте такжеК 2030 году ИИ может стать неуправляемым. Почему это тревожит даже ведущих ученыхОбойти ограничения чат-бота, установленные разработчиком, по-прежнему легко. Среди методов – попросить "сыграть роль" ассистента без ограничений, на примерах вымышленных моделей научить ИИ отвечать на вредоносные запросы, шифровать запрещенные слова с помощью азбуки Морзе или графики и т.д.Кто-то сделал со мной дипфейк. Что делать и как этого избежатьПользователи интернета уже делятся способами защиты от генерации откровенных изображений. На Reddit призывают отказаться от публикации своих фотографий в X и использовать более надежные платформы. Некоторые описывают такие лайфхаки: публиковать изображения в формате GIF или сделать аккаунт закрытым.Эксперт по ИИ Щербаков советует настроить приватность в социальных сетях и не загружать свои фотографии на сомнительные платформы. Или как вариант – добавить на них полупрозрачные водяные знаки. Это можно сделать вручную в Photoshop, Figma или с помощью бесплатных онлайн-сервисов: watermarkly.com, Canva, iLoveIMG.Жалобы на посты со сгенерированным контентом следует подавать через категории Non‑consensual nudity/sexual content и Child sexual exploitation (для несовершеннолетних), добавляет юрист и партнер практики искусственного интеллекта Juscutum Петр Билык."Не стоит взаимодействовать с такими публикациями, комментировать их, поскольку это может только увеличить охват", – говорит он.Если неприятность уже произошла, сохраните скриншоты переписки, URL-адреса, профили злоумышленников и обратитесь в киберполицию.Защищает ли закон пользователей социальных сетейСтатьи 307 и 308 Гражданского кодекса Украины требуют согласия человека на съемку и распространение его изображения. А статья 277 ГКУ гарантирует защиту чести, достоинства и деловой репутации в случае унижения или клеветы. Нарушение этих норм дает основание для возмещения морального вреда.В некоторых случаях речь может идти о преступлении – статья 182 УК Украины предусматривает ответственность за сбор и распространение интимной информации без согласия, статьи 301 и 301-1 УК Украины – за изготовление и распространение порнографии. За любой сексуализированный контент с участием детей предусмотрено наказание, даже если он был сгенерирован ИИ.Также жертв могут защитить законы "О защите персональных данных" и "О средствах массовой информации". Вместе с тем, доказать связь аккаунтов или сервисов с конкретными виновными сложно, подчеркивает Петр Билык."Если вам известно, кто распространяет эти фотографии, вы можете предъявить претензии, требования, подать иск к этому человеку или даже к владельцу платформы для возмещения ущерба. Также вы можете обратиться к омбудсмену по правам человека с требованием удалить биометрические или интимные данные", – рассказал Билык.

Комментарии