Прокуратура округа Невада в Северной Калифорнии оказалась в центре скандала после того, как выяснилось, что сотрудники ведомства использовали искусственный интеллект для написания судебных документов. В поданных ходатайствах были обнаружены так называемые «галлюцинации» — несуществующие судебные прецеденты и ложные цитаты, сгенерированные нейросетью. Окружной прокурор Джесси Уилсон признал один такой случай, заявив, что ошибочный документ был отозван сразу после обнаружения неточностей.
Однако адвокаты защиты и правозащитники из Civil Rights Corps утверждают, что проблема носит системный характер. Юристы, защищающие подсудимого Кайла Кьоллера, выявили подозрительные ошибки как минимум в трех делах, которые характерны именно для генеративного ИИ: ссылки на несуществующие дела и искажение смысла реальных судебных решений. Защита подала петицию в Верховный суд Калифорнии, указывая, что использование непроверенных алгоритмов обвинением представляет экзистенциальную угрозу для прав подсудимых.
Сам прокурор Уилсон настаивает, что в остальных случаях имели место обычные человеческие ошибки, вызванные высокой нагрузкой на сотрудников, а умысла ввести суд в заблуждение не было. Тем не менее, офис уже провел переобучение персонала и внедрил новую политику использования ИИ. Эксперты отмечают, что это, вероятно, первый зафиксированный случай в США, когда на использовании генеративных нейросетей в суде попалась именно сторона обвинения, а не частные адвокаты.