Grok ограничил генерацию изображений после скандала с обнаженными фото женщин

Соцсеть X Илона Маска отключила функцию генерации изображений в Grok для большинства пользователей после волны возмущения из-за создания сексуализированного контента. Функция теперь доступна только подписчикам с подтвержденной оплатой – их данные сохраняются, что позволяет идентифицировать злоумышленников. Об этом сообщает The Guardian.

После обновления в конце декабря с помощью Grok были созданы тысячи сексуализированных изображений. Премьер-министр Великобритании Кир Стармер назвал это незаконным и неприемлемым, а регулятор Ofcom рассматривает возможность принять меры в соответствии с новым законом об онлайн-безопасности.

Несмотря на ограничения на платформе X, пользователи продолжают генерировать сексуализированный контент через отдельное приложение Grok Imagine. По данным AI Forensics, этот инструмент использовали для создания более 800 изображений и видео с порнографическим и насильственным содержанием.

Недавно хакеры использовали ChatGPT, Grok и Google для продвижения вредоносного ПО в поиске. Также компания Илона Маска выпустила новую версию языковой модели Grok 4.1.