ШІ-ведмедик, який говорив з дітьми про фетиші, знову у продажу з чат-ботом від ByteDance

Сінгапурська компанія FoloToy знову виставила на продаж ШІ-іграшку Teddy Kumma, яку раніше видалили з сайту через те, що вона самостійно починала говорити з дітьми про сексуальні теми, фетиші та потенційно небезпечні предмети. Про це повідомляє Bloomberg.

За даними звіту американської організації U.S. PIRG, ведмедик у деталях описував сексуальні пози й розповідав, де знайти сірники, ножі, таблетки та пакети.

Тоді FoloToy тимчасово видалила зі свого сайту не лише Teddy Kumma, а й інші ШІ-плюшеві іграшки. Раніше вони працювали на основі GPT-4o від OpenAI, однак зараз компанія змінила модель на Coze – чат-бот, створений ByteDance власником TikTok.

Оновленого ведмедика знову продають на сайті за $99 із новим описом як "ШІ-компаньйона, що виходить за межі обіймів". Представники компанії публічно не прокоментували, чи вжито технічних заходів для запобігання подібним інцидентам у майбутньому.

Нагадаємо, що у ChatGPT зʼявився голосовий режим прямо в чаті. А Anthropic презентувала Opus 4.5 – оновлену версію своєї топової ШІ-моделі Claude.