Top advokatfirma indrømmer AI-fejl i retsdokumenter

Et af verdens førende advokatfirmaer, Sullivan & Cromwell (S&C), er blevet ramt af en alvorlig AI-relateret fejl i et retsdokument. Fejlen, der omtales som en "hallucination" inden for AI-sprogmodeller, indebar falske juridiske præcedenser og forkert citering af retsafgørelser.

Ifølge en meddelelse fra firmaet blev fejlene opdaget og rettet efter indsendelsen til retten. S&C erkender, at firmaets interne retningslinjer for AI-anvendelse ikke blev fulgt i forbindelse med udarbejdelsen af dokumentet. Desuden fejlede den manuelle gennemgang af dokumentet, hvilket førte til, at fejlene ikke blev opdaget før indsendelsen.

Den ironiske vending i sagen er, at S&C selv rådgiver OpenAI om "sikker og etisk implementering" af kunstig intelligens – en ydelse, som firmaet fremhæver på sin hjemmeside. Fejlene blev påpeget af konkurrenten Boies Schiller Flexner (BSF), som tidligere har været ramt af lignende AI-relaterede problemer.

I en erklæring fra S&C's seniorpartner Andy Dietderich hedder det blandt andet:

"Jeg blev i går bekendt med, at den indsendte nødbegæring indeholder unøjagtige citater og andre fejl, som er identificeret og rettet i bilag A til dette brev. Fejlene omfatter AI-genererede 'hallucinationer', hvor AI-værktøjer fremstiller ikke-eksisterende retsafgørelser eller forkert citerer juridiske kilder. Vi beklager dybt, at dette er sket."

Dietderich, som har været partner i S&C i næsten 30 år og leder firmaets rekonstruktionsafdeling, understreger, at ingen medarbejdere blev gjort til syndebukke for fejlene. Han påpeger, at dokumentet formentlig blev udarbejdet af en medarbejder, men at det var ham selv, der underskrev det uden tilstrækkelig gennemgang.

S&C har indført omfattende retningslinjer og uddannelseskrav for anvendelse af AI i juridisk arbejde, men disse blev tilsyneladende ikke fulgt i dette tilfælde. Firmaet erkender, at den manuelle gennemgang af dokumentet heller ikke opdagede fejlene.

AI-fejl i juridiske dokumenter er ikke et nyt fænomen. Allerede sidste år blev Boies Schiller Flexner ramt af lignende problemer, hvor AI-genererede fejl i en retsindsendelse ikke blev opdaget af firmaet eller dets samarbejdspartnere.