Суд вперше покарав за використання штучного інтелекту. Юристів оштрафували на $5000

Юридична фірма Levidow, Levidow & Oberman PC отримала штраф у розмірі $5000 за використання штучного інтелекту у судовому провадженні. Про це повідомляє Bloomberg.

Це перша така справа у світі, де ШІ став причиною покарання. Суддя П. Кевін Кастель ухвалив рішення  про накладення штрафу на фірму після того, як адвокати надали суду "цитати і посилання, створені за допомогою нейромережі", які були недостовірними. Це призвело до звинувачень у недобросовісній поведінці та спробах ввести суд в оману.

Ці адвокати продовжували наполягати на правдивості наданих даних, навіть після того, як їх було викрито у використанні ШІ. Однак виявилося, що ці дані були вигадані ШІ без наміру шахрайства. Модель ШІ, яку використовували адвокати, залишається невідомою.

Експерти наголошують на необхідності перевірки всіх даних, що генеруються чатботами, особливо у разі складної інформації. Мовні моделі, такі як ШІ, мають тенденцію "галюцинувати" або вигадувати інформацію, якщо  недостатньо даних, щоб забезпечити більш плавну розповідь або відповідь. Крім того, чатботи мають проблеми з утриманням складного технічного діалогу та розділенням тематики запитів, що може призводити до неправдивих або незрозумілих відповідей.