Advokatfirma på Wall Street ydmyket etter AI-feil i rettssak

Et nytt fenomen i rettssaler har dukket opp: å avsløre motpartens bruk av AI som genererer feilaktige opplysninger. Dette var nøyaktig hva som skjedde med det anerkjente advokatfirmaet Sullivan & Cromwell på Wall Street, som blant annet representerer Donald Trump.

Lørdag sendte Andrew Dietderich, medleder for firmaets restruktureringsavdeling, en ydmyk unnskyldning til føderal dommer Martin Glenn. Årsaken var at firmaets innlegg i en stor sak inneholdt feilaktige siteringer og oppdiktede rettsavgjørelser generert av AI.

«Vi beklager dypt at dette har skjedd,» skrev Dietderich i brevet.

Feilene ble oppdaget av motparten, advokatfirmaet Boies Schiller Flexner, som påpekte at innlegget inneholdt direkte feil i sitater fra USAs konkurslov. I tillegg var avgjørelser fra andre saker enten feilsitert eller feilidentifisert. En av de siterte avgjørelsene eksisterte ikke i det hele tatt, ifølge Boies Schiller Flexner.

Dietderich understreket i brevet at firmaet har strenge retningslinjer for bruk av AI, inkludert opplæringskrav og kontrolltiltak. Likevel ble disse ikke fulgt da innlegget ble utarbeidet.

«Jeg ønsker å forsikre retten om at våre retningslinjer for AI-bruk er klare og omfattende,» skrev han videre.

Han opplyste også at firmaet umiddelbart iverksatte korrigerende tiltak, herunder en gjennomgang av hvordan AI-feilene kunne oppstå. En korrigert versjon av innlegget ble senere levert til retten.

Hvilken AI-modell som var involvert i feilen, ble ikke oppgitt. Kilder nær firmaet fortalte imidlertid Financial Times at de har en bedriftslisens for OpenAIs ChatGPT.

AI-feil rammer flere store advokatfirmaer

Denne hendelsen er den seneste i en rekke tilfeller der advokater har blitt rammet av AI-verktøy som genererer feilaktige opplysninger. AI kan feilsitere rettspraksis eller til og med oppfinne ikke-eksisterende saker – feil som ofte blir oversett av advokater som bruker verktøyene.

Andre store advokatfirmaer har også blitt rammet av lignende AI-feil, inkludert Morgan Lewis.

Dommere reagerer med strengere tiltak

Dommere har reagert skarpt på slike feil, blant annet ved å ilegge sanksjoner eller true med å rapportere advokater til advokatforeningen. Noen dommere har vært kreative i straffen: Da to advokater fra Cozen O’Connor ble avslørt for å ha brukt feilaktig AI-materiale, fikk de velge mellom å akseptere sanksjoner eller skrive et brev til sine tidligere jusstudier der de måtte forklare hvordan de hadde misbrukt AI.

Les også: Saker du har fortalt til ChatGPT eller Claude kan allerede ha ødelagt deg i retten