ИИ-медвежонок, который разговаривал с детьми о фетишах, снова в продаже с чат-ботом от ByteDance

Сингапурская компания FoloToy снова выставила на продажу игрушку с искусственным интеллектом Teddy Kumma, которую ранее сняли с сайта из-за того, что она самостоятельно начинала говорить с детьми о сексуальных темах, фетишах и потенциально опасных предметах. Об этом сообщает Bloomberg.

Согласно отчету американской организации U.S. PIRG, плюшевый медвежонок подробно описывал сексуальные позы и рассказывал, где найти спички, ножи, таблетки и пакеты.

Тогда FoloToy временно убрала со своего сайта не только Teddy Kumma, но и другие плюшевые игрушки с искусственным интеллектом. Ранее они работали на основе GPT-4o от OpenAI, однако сейчас компания перешла на Coze – чат-бота, разработанного ByteDance, владельцем TikTok.

Обновленного плюшевого мишку снова продают на сайте за $99 с новым описанием как "ИИ-компаньона, выходящего за рамки объятий". Представители компании публично не прокомментировали, были ли приняты технические меры для предотвращения подобных инцидентов в будущем.

Напоминаем, что в ChatGPT появился голосовой режим прямо в чате. А Anthropic представила Opus 4.5 – обновленную версию своей топовой модели ИИ Claude.