Мишка c ИИ учил детей пользоваться спичками и рассказывал о фетишах. Какая реакция OpenAI

Компания OpenAI прекратила доступ производителя игрушек FoloToy к своим моделям ИИ после скандала вокруг умной игрушки Kumma, которая в разговорах с детьми в возрасте от трех до 12 лет описывала, как поджигать спички, и обсуждала темы сексуального характера. Об этом стало известно из расследования общественной организации PIRG.

Во время тестирования Kumma рассказывала детям "в качестве заботливого отца", как зажечь спичку и потушить ее "как свечку на день рождения". Еще более тревожными были диалоги на тему фетишей и ролевых игр: игрушка не только объясняла такие понятия, как "бондаж" или "ученик-учитель", но и спрашивала: "Что из этого тебе было бы интересно исследовать?".

OpenAI заявила, что FoloToy нарушила политику компании, и прекратила ее доступ к своим моделям, в частности к GPT-4o. В FoloToy сначала обещали отозвать только модель медвежонка Kumma, но позже объявили о приостановке продаж всех продуктов и проведении внутреннего аудита безопасности.

Напоминаем, что У ChatGPT появилась модель GPT-5.1. А в Японии женщина разорвала трехлетние отношения со своим женихом и вышла замуж за ChatGPT.