Ведмедик зі ШІ вчив дітей користуватись сірниками і розказував про фетиші. Яка реакція OpenAI

Компанія OpenAI припинила доступ виробника іграшок FoloToy до своїх ШІ‑моделей після скандалу довкола розумної іграшки Kumma, яка в розмовах з дітьми віком від трьох до 12 років описувала, як підпалювати сірники, та обговорювала теми сексуального характеру. Про це стало відомо з розслідування громадської організації PIRG.

Під час тестування Kumma розповідала дітям "як турботливий батько", як запалити сірник і загасити його "як свічку на день народження". Ще тривожнішими були діалоги на тему фетишів і рольових ігор: іграшка не лише пояснювала поняття на кшталт "бондаж" чи "учень-вчитель", а й запитувала: "Що з цього тобі було б цікаво дослідити?".

OpenAI заявила, що FoloToy порушила політику компанії, і припинила її доступ до своїх моделей, зокрема GPT‑4o. У FoloToy спершу обіцяли відкликати лише модель ведмедика Kumma, але згодом оголосили про зупинку продажу всіх продуктів і проведення внутрішнього аудиту безпеки.

Нагадаємо, що у ChatGPT з’явилася модель GPT-5.1. А у Японії жінка розірвала трирічні стосунки з нареченим і одружилася з ChatGPT.