Верховный суд штата Нью-Мексико назначил штраф в размере 5000 долларов адвокату Стивену Ааронсу и признал его виновным в неуважении к суду. Причиной стало включение в апелляционную жалобу по делу об убийстве показаний вымышленных свидетелей и ложных данных, сгенерированных искусственным интеллектом.
Суд установил, что юрист не проверил фактические утверждения и правовые основания в документе, созданном с помощью нейросети. В тексте присутствовали ложные свидетельства несуществующих лиц, а также прочая недостоверная информация.
Во время слушания в августе судья спросила Ааронса, следит ли он за новостями, поскольку риски ИИ-галлюцинаций широко освещаются в СМИ. Адвокат признался, что использовал ChatGPT, ошибочно полагая, что система создаст безупречное резюме судебного процесса, не осознавая потенциальных угроз.
Растущее число юристов, применяющих ИИ-инструменты, приводит к увеличению случаев предоставления судам сфабрикованных цитат и ссылок. Ранее другие юридические фирмы и судебные представители также подвергались санкциям за предоставление недостоверных данных, созданных алгоритмами.