Нью-Йорк, США. Магистратский суд Южного округа Нью-Йорка (S.D.N.Y.) вынес решение по делу Jimenez-Fogarty v. Fogarty, в котором адвокат Триша С. Линдси была обвинена в предоставлении фальсифицированных судебных ссылок в двух меморандумах о праве. Судья Габриэль В. Горейнштейн признал её действия умышленными и наложил штраф в размере 2 500 долларов США.

Линдси представляла интересы истца Сай Малены Хименес-Фогаэрти в споре с её бывшим мужем. В ответ на две ходатайства о прекращении дела она подала два меморандума, содержащих ссылки на несуществующие судебные решения. После того как судья обратил внимание на подозрительные цитаты, он потребовал от адвоката объяснить их происхождение.

В своём ответе Линдси заявила, что придерживается строгого процесса проверки документов, однако не смогла предоставить убедительных доказательств. Она ограничилась общими фразами о «ручной проверке» и «соблюдении этических стандартов», не раскрыв конкретные источники ссылок. Суд расценил это как попытку ввести в заблуждение и признал цитаты полностью сфабрикованными.

Что такое «галлюцинации ИИ» в юридической практике?

В документе суда подчёркивается, что фальсификация ссылок не является случайной ошибкой или опечаткой. Речь идёт о случаях, когда:

  • ссылки на дела не существуют в принципе;
  • указанные дела не содержат нужных правовых позиций;
  • цитаты полностью вымышлены.

Такие действия, по мнению суда, не только нарушают профессиональные стандарты, но и подрывают доверие к судебной системе. В комментарии к решению судья отметил, что использование ИИ-инструментов без должной проверки может приводить к подобным ошибкам, но в данном случае речь идёт о сознательной фальсификации.

Реакция стороны защиты

Линдси не согласилась с выводами суда и заявила, что её действия не были умышленными. Она утверждала, что следовала стандартной процедуре проверки документов, однако не смогла предоставить конкретных доказательств этого. Суд отклонил её аргументы, указав на отсутствие деталей и противоречия в её объяснениях.

Эксперты отмечают, что это дело может стать прецедентом для оценки ответственности юристов за использование ИИ в юридической практике. В последние годы участились случаи, когда адвокаты ссылались на несуществующие прецеденты, сгенерированные нейросетями.

«Суд не оставил сомнений в том, что фальсификация юридических ссылок — это грубое нарушение, независимо от того, были ли они созданы вручную или с помощью ИИ», — заявил правовед Марк Стивенс, комментируя решение.

Последствия для юридической профессии

Эксперты призывают юридическое сообщество к ужесточению контроля за использованием ИИ-инструментов. В частности, рекомендуется:

  • внедрять обязательные процедуры проверки ссылок;
  • вести журналы изменений в документах;
  • проводить независимые аудиты юридических текстов.

Некоторые юристы уже используют специализированные программы для автоматической проверки цитат, чтобы избежать подобных инцидентов. Однако, как показывает это дело, даже современные технологии не гарантируют полной защиты от ошибок.

Источник: Reason