Bufete de Wall Street se humilla en los tribunales tras usar IA con citas falsas

Un error de IA deja en evidencia a un bufete de élite

La firma de abogados Sullivan & Cromwell, con clientes como Donald Trump, se ha visto en una situación embarazosa tras presentar un escrito legal plagado de citas falsas generadas por inteligencia artificial. El incidente, ocurrido en un tribunal federal de Nueva York, ha puesto de manifiesto los riesgos de usar herramientas de IA sin supervisión adecuada en el ámbito jurídico.

Un escrito lleno de errores

El pasado sábado, Andrew Dietderich, cojefe del grupo de reestructuración del bufete, envió una carta de disculpa al juez Martin Glenn federal tras descubrirse que un documento presentado en un caso de quiebra contenía citas incorrectas y referencias a casos inexistentes. La firma opositora, Boies Schiller Flexner, detectó los errores en una moción presentada en el tribunal de bancarrota de Manhattan.

Entre los fallos destacados:

• Citas erróneas del Código de Quiebras de EE.UU.
• Resúmenes incorrectos o mal identificados de fallos judiciales.
• Referencias a casos que, en realidad, no existían.

Protocolo de IA incumplido

En su carta, Dietderich reconoció que los errores se debieron al incumplimiento de los protocolos internos de la firma sobre el uso de IA. Afirmó que Sullivan & Cromwell cuenta con políticas «claras y rigurosas» para el uso de estas herramientas, incluyendo requisitos de formación para los abogados. Sin embargo, en este caso, dichas normas no se aplicaron correctamente.

«Lamentamos profundamente que esto haya ocurrido», escribió Dietderich en la misiva dirigida al juez.

El bufete también aseguró haber tomado «medidas correctivas inmediatas», como revisar cómo los errores de la IA pasaron desapercibidos y presentar una versión corregida del documento al tribunal. Aunque no se especificó qué modelo de IA se utilizó, fuentes cercanas a la firma indicaron a Financial Times que disponen de una licencia empresarial de ChatGPT de OpenAI.

La IA en los tribunales: un riesgo creciente

Este caso se suma a una serie de incidentes en los que abogados han cometido errores graves al confiar en herramientas de IA sin verificar su precisión. Estas herramientas, aunque potentes, pueden generar «alucinaciones» o citas inventadas, un problema que los juristas a menudo pasan por alto.

Otros bufetes de prestigio también han sufrido situaciones similares. Por ejemplo, la firma Morgan Lewis ha sido noticia por errores relacionados con IA en documentos legales.

Los jueces no perdonan los errores con IA

Los magistrados han mostrado poca tolerancia hacia estos fallos. En algunos casos, han impuesto sanciones a los abogados responsables o incluso han amenazado con remitir sus casos a los colegios de abogados estatales. En un caso destacado, un juez permitió a dos abogados de Cozen O’Connor elegir entre ser sancionados o escribir una carta a los decanos de sus facultades de Derecho explicando su error.

Ante el auge de la IA en el sector legal, expertos advierten sobre la necesidad de implementar protocolos estrictos de verificación para evitar consecuencias graves en los tribunales.

¿Qué sigue para Sullivan & Cromwell?

Aunque el bufete ha intentado enmendar su error con una disculpa formal y la presentación de un documento corregido, el incidente deja en evidencia los desafíos que plantea la integración de herramientas de inteligencia artificial en la práctica legal. La reputación de la firma, conocida por su rigor y prestigio, ha quedado empañada por este fallo técnico.

Mientras tanto, el debate sobre el uso responsable de la IA en el ámbito jurídico sigue abierto, con jueces, abogados y reguladores buscando formas de garantizar que estas herramientas se utilicen con la precisión y ética que requiere la profesión.