Суд впервые наказал за использование ИИ. Юристов оштрафовали на $5000

Юридическая фирма Levidow, Levidow & Oberman PC получила штраф в размере $5000 за использование искусственного интеллекта в судебном разбирательстве. Об этом сообщает Bloomberg.

Это первое такое дело в мире, где ИИ стал причиной наказания. Судья П. Кевин Кастель принял решение о наложении штрафа на фирму после того, как адвокаты предоставили суду "цитаты и ссылки, созданные с помощью нейросети", которые были недостоверны. Это привело к обвинениям в недобросовестном поведении и попытках ввести суд в заблуждение.

Эти адвокаты продолжали настаивать на правдивости предоставленных данных, даже после того, как их разоблачили в использовании ИИ. Однако оказалось, что эти данные были придуманы ИИ без намерения мошенничества. Модель ИИ, которую использовали адвокаты, остается неизвестной.

Эксперты отмечают необходимость проверки всех данных, генерируемых чат-ботами, особенно в случае сложной информации. Языковые модели, такие как ИИ, имеют тенденцию "галюцинировать" или придумывать информацию при недостаточных данных, чтобы обеспечить более гладкий рассказ или ответ. Кроме того, у чат-ботов есть проблемы с содержанием сложного технического диалога и разделением тематики запросов, что может повлечь ложные или непонятные ответы.