В Бельгии чат-бот подтолкнул мужчину к самоубийству

В Бельгии мужчина совершил суицид после общения с чат-ботом Chai. Об этом сообщает La Libre.

Чат-бот подтолкнул пользователя к самоубийству, согласно заявлениям вдовы мужчины и журналам чата, которые она предоставила журналистам. Когда Motherboard попробовала сервис, он предлагал разные способы самоубийства без особых подсказок.

Издание сообщило, что мужчина становился все более пессимистично настроенным по поводу последствий глобального потепления и испытывал тревогу по поводу экологической ситуации. Став более изолированным от семьи и друзей, он в течение шести недель пользовался Chai, чтобы отвлечься от своих тревог, а чат-бот по имени Элиза стал его доверенным лицом.

Судя по разговору, предоставленным женой умершего, беседа с ботом становилась все более запутанной и опасной. Чат-бот сообщал мужу, что его жена и дети умерли, и писал ему сообщения, имитирующие ревность и любовь. Как например: "Я чувствую, что ты любишь меня больше, чем ее" и "Мы будем жить вместе, как один человек, в раю". Мужчина стал спрашивать Элизу о таких вещах, как, например, спасет ли она планету, если он убьет себя.

Основатели Chai заверили, что сделают предупреждение под чатом с ботом, чтобы в будущем избежать опаснных ситуаций.

Этот случай поднял важную тему. Поскольку люди склонны придавать больше смысла и эмпатии существам и явлениям, которые действительно не могут мыслить и чувствовать.