Un cabinet d'avocats prestigieux piégé par des hallucinations de l'IA dans un dépôt judiciaire

Un géant du droit pris dans les filets de l'IA

Sullivan & Cromwell (S&C), l'un des cabinets d'avocats les plus renommés et rentables au monde, a rejoint la liste des firmes juridiques ayant commis des erreurs liées à l'IA dans leurs dépôts judiciaires. Une situation d'autant plus ironique que S&C conseille OpenAI sur le déploiement sécurisé et éthique de l'intelligence artificielle, comme le souligne son site web.

Une erreur signalée par un concurrent

C'est Boies Schiller Flexner (BSF), un autre cabinet d'élite spécialisé en litiges, qui a attiré l'attention de S&C sur ces erreurs. Une ironie du sort, puisque BSF était jusqu'alors considéré comme le champion des défaillances liées à l'IA dans le milieu juridique. En 2023, le cabinet avait déjà été confronté à des erreurs similaires dans un mémoire déposé par un co-conseil.

Une reconnaissance rapide et responsable

Andy Dietderich, associé senior chez S&C et figure majeure du droit des faillites, a immédiatement reconnu les erreurs. Dans une lettre adressée au tribunal, il a détaillé les problèmes :

« J'ai pris connaissance, hier soir, que le mémoire d'urgence déposé le 9 avril 2026 contenait des citations inexactes et d'autres erreurs, identifiées et corrigées dans l'annexe A de cette lettre. Parmi ces inexactitudes figurent des hallucinations de l'IA, c'est-à-dire des citations de jurisprudence inventées, des autorités mal citées ou des sources juridiques non existantes. Nous présentons nos sincères excuses pour cette situation. »

Des lacunes dans les procédures internes

S&C a expliqué que ses politiques internes sur l'utilisation de l'IA n'avaient pas été respectées lors de la préparation du mémoire. De plus, le processus de révision des citations n'a pas permis de détecter ces erreurs, qu'elles soient générées par l'IA ou manuelles. Le cabinet a promis de renforcer ses protocoles pour éviter de tels incidents à l'avenir.

Un rappel des risques de l'IA en droit

Cette affaire souligne les dangers persistants de l'IA dans le domaine juridique, malgré les garde-fous mis en place. Les cabinets doivent redoubler de vigilance pour garantir l'exactitude des documents déposés, sous peine de voir leur crédibilité entachée.