Крупная юридическая фирма Sullivan & Cromwell унижена в суде из-за ошибок ИИ

Новый способ «подловить» противника в суде — проверить, не оставил ли он бездумные «галлюцинации» ИИ и доложить об этом судье. Именно так поступила одна из самых престижных юридических фирм США Sullivan & Cromwell, представляющая интересы Дональда Трампа, которая недавно оказалась в центре скандала.

В минувшие выходные Эндрю Дитерлих, соруководитель группы по реструктуризации компании, принёс публичные извинения федеральному судье Мартину Гленну. Причина — поданный фирмой иск содержал массу фальшивых ссылок, сгенерированных ИИ.

«Мы глубоко сожалеем о случившемся», — написал Дитерлих в официальном письме.

Ошибки были выявлены конкурирующей фирмой Boies Schiller Flexner, которая подала встречное ходатайство в федеральный суд по банкротству Манхэттена. В документе Sullivan & Cromwell цитировала положения Кодекса о банкротстве США с грубыми искажениями, а также приводила решения других судов, которые либо были неверно интерпретированы, либо вовсе не существовали. Как выяснилось, одна из ссылок на судебное решение оказалась подделкой.

Испугавшись возможных санкций, Дитерлих подчеркнул в письме, что в фирме действуют строгие правила использования ИИ, включая обязательное обучение сотрудников и контроль за применением таких инструментов в юридической практике. Однако, как он заявил, в этот раз правила были нарушены.

«Я хочу заверить суд, что политика фирмы в отношении использования ИИ чёткая и строгая», — заявил он.

Также Дитерлих сообщил, что фирма уже предприняла «незамедлительные меры», включая внутреннюю проверку, чтобы выяснить, как ошибки ИИ прошли через систему контроля. Позднее в суд была направлена исправленная версия иска.

Какая именно модель ИИ стала причиной ошибок, не уточняется. Однако источники Financial Times сообщают, что в Sullivan & Cromwell используют корпоративную лицензию на ChatGPT от OpenAI.

Этот инцидент стал ещё одним громким примером того, как юристы сталкиваются с проблемами из-за «галлюцинаций» ИИ. Нередко программы ошибочно цитируют судебные прецеденты или даже выдумывают несуществующие дела, а юристы не замечают этих ошибок. Другие крупные фирмы также становились жертвами подобных промахов, включая Morgan Lewis.

Судьи не остаются в стороне: они выносят предупреждения и даже накладывают санкции на тех, кто представляет искажённые данные. В некоторых случаях наказание бывает креативным. Например, когда два юриста из фирмы Cozen O’Connor были уличены в использовании ошибочных ссылок ИИ, судья предложил им либо согласиться на санкции, либо написать письмо декану своего университета с объяснением ошибки.