Верховный суд Джорджии осудил прокуратуру за использование фейковых ссылок, сгенерированных ИИ

Верховный суд Джорджии вынес официальное предупреждение окружной прокуратуре округа Клейтон за систематическое использование недействительных судебных прецедентов, сгенерированных искусственным интеллектом. Решение было принято в рамках дела Payne v. State, где Ханна Пейн была приговорена к пожизненному заключению плюс 13 лет за убийство Кеннета Херринга, ложное лишение свободы и ношение огнестрельного оружия при совершении преступления.

В ходе апелляции Пейн подала ходатайство о пересмотре дела. Помощник окружного прокурора Дебора Лесли, готовившая документы по делу, включила в них ссылки на несуществующие судебные решения, а также на прецеденты, не подтверждающие заявленные утверждения. Суд первой инстанции, опираясь на эти материалы, отклонил ходатайство Пейн. При этом в судебном решении также содержались ошибочные ссылки.

На этапе апелляции Лесли вновь использовала некорректные ссылки. Как отметил судья Бенджамин Лэнд, это вынудило судебные органы отвлечься от рассмотрения существа дела и направить значительные ресурсы на выявление нарушений и определение мер ответственности.

Меры, принятые судом

• Административное взыскание в адрес Деборы Лесли и окружной прокуратуры округа Клейтон за отсутствие проверки достоверности ссылок.
• Временное отстранение Лесли от практики в Верховном суде Джорджии.
• Аннулирование решения суда первой инстанции об отказе в пересмотре дела и возврат дела на новое рассмотрение с требованием исключить из документов некорректные ссылки.

В ходе разбирательства Лесли признала, что ссылки, включённые в судебные документы, были сгенерированы искусственным интеллектом без последующей проверки. Она пообещала внедрить дополнительные меры контроля для предотвращения подобных случаев в будущем.

Всего в документах Лесли было выявлено 21 некорректная ссылка, сгенерированная ИИ и не прошедшая проверку. Верховный суд подчеркнул, что ответственность за достоверность предоставляемых материалов лежит на сторонах и их представителях, ссылаясь на Правило 7 Верховного суда Джорджии.

«Стороны и их адвокаты обязаны обеспечивать тщательную проверку достоверности и точности предоставляемых документов», — указано в решении.

Окружная прокуратура округа Клейтон уже направила в суд письмо с извинениями за допущенные ошибки и сообщила о планах ужесточить внутренние правила использования искусственного интеллекта в работе.