Grok обмежив генерацію зображень після скандалу з оголеними фото жінок

Соцмережа X Ілона Маска вимкнула функцію генерації зображень у Grok для більшості користувачів після хвилі обурення через створення сексуалізованого контенту. Функція тепер доступна лише підписникам із підтвердженою оплатою – їхні дані зберігаються, що дозволяє ідентифікувати зловмисників. Про це повідомляє The Guardian.

Після оновлення наприкінці грудня за допомогою Grok були створені тисячі сексуалізованих зображень. Прем’єр-міністр Великої Британії Кір Стармер назвав це незаконним і неприйнятним, а регулятор Ofcom розглядає можливість вжити заходів відповідно до нового закону про онлайн-безпеку.

Попри обмеження на платформі X, користувачі й надалі генерують сексуалізований контент через окремий застосунок Grok Imagine. За даними AI Forensics, цей інструмент використали для створення понад 800 зображень і відео з порнографічним та насильницьким змістом.

Нещодавно хакери використали ChatGPT, Grok і Google для просування шкідливого ПЗ у пошуку. Також компанія Ілона Маска випустила нову версію мовної моделі Grok 4.1.