Правительственный чат-бот Нью-Йорка советует пользователям нарушать закон

Выяснилось, что The Markup, чат-бот с искусственным интеллектом, запущенный правительством Нью-Йорка, предоставляет ложную и дезинформирующую информацию пользователям, особенно в отношении правил жилищной политики и прав работников. Об этом сообщает Engadget.

Этот чат-бот был представлен в качестве "действенного и достоверного" источника информации, однако во время тестирования The Markup обнаружил многочисленные неточности в ответах чат-бота на вопросы пользователей.

К примеру, чат-бот неправильно отвечает на вопрос о возможности сделать магазин безналичным в Нью-Йорке, хотя уже в 2020 году их запретили. Эксперты в области жилищной политики характеризуют чат-бота как "опасно неточного".

Администрация мэра Адамса заявляет, что чат-бот по-прежнему находится в разработке и пилотной программе. В городских властях отмечают, что эта бета-версия чат-бота предназначена для контента, связанного с бизнесом, и просят пользователей не заменять на него профессиональные консультации. Они также отмечают, что чат-бот предоставляет возможность обратной связи, что помогает улучшать его функционал и предоставлять полезную информацию малому бизнесу в городе.