Retssag afslører AI-genereret juridisk indhold: Advokat idømt bøde for falske præcedenshenvisninger

En amerikansk domstol har afsløret, at advokat Tricia S. Lindsay anvendte fuldstændigt opdigtede juridiske præcedenshenvisninger i to dokumenter indleveret i forbindelse med sagen Jimenez-Fogarty v. Fogarty. Sagen blev afgjort onsdag af magistratdommer Gabriel W. Gorenstein i den amerikanske forbundsdomstol for Syddistriktet i New York (S.D.N.Y.).

Lindsay havde tidligere stillet op til valget til New Yorks delstatsparlament i 2024. Hun repræsenterede klienten Sai Malena Jimenez-Fogarty og indleverede to retslige notater som svar på to begæringer om afvisning af sagen. Begge dokumenter indeholdt adskillige henvisninger til ikke-eksisterende retssager.

Domstolen beordrede herefter Lindsay til at redegøre for, hvorfor hun ikke burde idømmes straf for de vildledende indleveringer. Efter at have gennemgået hendes forklaring konkluderede dommeren, at hun burde idømmes en bøde på 2.500 dollar.

Hvad udgjorde de opdigtede henvisninger?

Domstolen specificerede, at de fabrikerede henvisninger ikke blot omfattede typografiske fejl eller forkerte sidetal. I stedet drejede det sig om henvisninger til sager, der overhovedet ikke eksisterede – hverken ved navn eller med de angivne kilder. Yderligere var nogle af de angivne sager placeret forkert i retsdatabaser eller havde intet at gøre med de juridiske påstande, de blev anvendt til at understøtte.

Domstolen fremhævede syv konkrete eksempler på de opdigtede henvisninger, herunder:

• Henvisninger til sager, der ikke kunne findes i nogen retsdatabase
• Henvisninger til sager med forkert navn eller forkert retskilde
• Henvisninger til sager, der var placeret på forkerte sider i retsrapporterne

Advokatens forklaring afviste domstolens forventninger

Da domstolen krævede en detaljeret redegørelse for, hvordan de opdigtede henvisninger var blevet til, svarede Lindsay med en generel og upræcis forklaring. Hun påstod blot at følge en struktureret og omhyggelig proces for at sikre nøjagtighed og overholdelse af juridiske standarder – uden at specificere, hvordan dette var blevet gjort i netop dette tilfælde.

Hendes forklaring indeholdt hverken konkrete svar på, hvor de opdigtede henvisninger kom fra, eller en reel gennemgang af hendes arbejdsproces. I stedet fremførte hun blot, at hun «manuelt krydstjekker sagsnavne, sagstal og retshenvisninger mod de primære kilder» – uden at dokumentere, at dette var blevet gjort i forbindelse med de aktuelle dokumenter.

«Den mest grundlæggende mangel i hendes forklaring er, at hun aldrig reelt adresserer, hvordan de opdigtede henvisninger overhovedet kunne opstå. Hun undgår at tage ansvar og giver ingen indsigt i sin arbejdsmetode,» skrev dommeren i sin begrundelse.

AI’s rolle i sagen

Selvom Lindsay ikke direkte nævnte AI i sin forklaring, fremgår det af domstolens afgørelse, at de opdigtede henvisninger sandsynligvis stammer fra en AI-platform. Dette er ikke første gang, at amerikanske domstole har måttet håndtere konsekvenserne af AI-genereret juridisk indhold, der indeholder fejl eller direkte fabrikerede oplysninger.

Dommeren understregede, at advokater har et ansvar for at verificere alle kilder, uanset om de stammer fra traditionel forskning eller AI-værktøjer. «Fabrikerede juridiske henvisninger underminerer ikke blot tilliden til retssystemet, men udgør også en direkte overtrædelse af advokaters etiske forpligtelser,» hedder det i afgørelsen.