Урядовий чатбот Нью-Йорка радить користувачам порушувати закон

З'ясувалося, що The Markup, чатбот зі штучним інтелектом, запущений урядом Нью-Йорка, надає неправдиву та дезінформуючу інформацію користувачам, особливо щодо правил житлової політики та прав працівників. Про це повідомляє Engadget.

Цей чатбот було представлено як "дієве та правдиве" джерело інформації, однак під час тестування The Markup виявив численні неточності у відповідях чатбота на питання користувачів.

Наприклад, чатбот неправильно відповідає на запитання про можливість зробити магазин безготівковим у Нью-Йорку, хоча вже у 2020 році їх заборонили. Експерти в галузі житлової політики характеризують чатбота як "небезпечно неточного".

Адміністрація мера Адамса заявляє, що чатбот все ще перебуває в розробці та пілотній програмі. У міській владі відзначають, що ця бета-версія чатбота призначена для контенту, пов'язаного з бізнесом, та просять користувачів не заміняти на нього професійні консультації. Вони також наголошують, що чатбот надає можливість зворотного зв'язку, що допомагає поліпшувати його функціонал та надавати корисну інформацію малому бізнесу в місті.