Un cabinet juridique de Wall Street humilié après la découverte de citations erronées générées par IA

Une nouvelle tactique redoutable s’invite dans les salles d’audience : vérifier si l’adversaire a laissé des erreurs grossières générées par une IA, puis les signaler au juge. C’est ainsi que le cabinet d’avocats Sullivan & Cromwell, l’un des plus prestigieux de Wall Street, a été publiquement humilié ce week-end.

Andrew Dietderich, co-responsable du groupe de restructuration du cabinet, a présenté des excuses écrites au juge fédéral Martin Glenn après qu’un dossier majeur déposé par son équipe contenait des citations totalement inventées par une IA. Dans une lettre d’excuses, Dietderich a reconnu : « Nous regrettons profondément cette situation. »

L’erreur a été détectée par le cabinet adverse, Boies Schiller Flexner, qui a déposé un recours devant le tribunal fédéral des faillites de Manhattan. L’analyse a révélé des citations erronées du code de la faillite américain, ainsi que des références à des décisions judiciaires mal résumées ou carrément inexistantes. Pire encore, l’une des « affaires » citées par Sullivan & Cromwell n’existait tout simplement pas.

Craignant des sanctions, Dietderich a souligné dans sa lettre que le cabinet appliquait des protocoles stricts pour encadrer l’utilisation de l’IA, incluant des « exigences de formation sur l’utilisation des outils d’IA dans le travail juridique ». Il a admis que ces règles n’avaient pas été respectées lors de la préparation du dossier.

« Je tiens à rassurer la Cour que les politiques du cabinet concernant l’IA sont claires et rigoureuses », a-t-il affirmé. Il a également indiqué que des mesures correctives immédiates avaient été prises, dont une enquête interne pour comprendre comment ces erreurs avaient pu passer entre les mailles du filet. Une version corrigée du dossier a ensuite été soumise au tribunal.

Le modèle d’IA utilisé n’a pas été précisé. Cependant, des sources proches du cabinet ont révélé au Financial Times que Sullivan & Cromwell dispose d’une licence entreprise pour ChatGPT d’OpenAI.

L’IA générative, un piège pour les avocats

Cette affaire s’ajoute à une série d’erreurs judiciaires liées à l’IA hallucinatoire, où des outils comme les grands modèles de langage inventent des citations ou des jurisprudences. D’autres cabinets prestigieux ont déjà été pris en flagrant délit, comme le cabinet Morgan Lewis.

Les juges n’hésitent pas à sanctionner ces manquements. Certains vont jusqu’à imposer des peines originales : dans une affaire impliquant deux avocats du cabinet Cozen O’Connor, le juge leur a proposé de choisir entre une amende ou rédiger une lettre d’excuses à leur école de droit pour expliquer leur erreur.

« Les avocats qui intègrent des citations générées par IA sans vérification risquent des sanctions sévères, voire une radiation. »

Cette tendance croissante pousse les cabinets à revoir leurs protocoles internes pour éviter de tels déboires.