En advokats hjemmeside viste for nylig en sag med et erstatningsbeløb på 11 millioner dollars, som senere viste sig at være fabrikeret af kunstig intelligens (AI). Ifølge hjemmesiden var advokaten involveret i sagen, der blev omtalt som en lav otte-cifret erstatning. Yderligere blev der på samme side nævnt flere lignende sager med tilsvarende beløb, hvilket blot forstærkede mistanken om, at oplysningerne var fejlagtige.
Advokaten har tidligere været underlagt sanktioner for AI-relaterede fejl. I en nylig sag havde en medarbejder skrevet et dokument med AI, som advokaten underskrev uden at opdage fejlene. Dette førte til, at advokaten blev straffet for at have fremlagt falske oplysninger for retten.
Eksperter peger på, at brugen af AI i juridisk praksis kan føre til alvorlige konsekvenser, herunder tab af troværdighed og retssager. Advokater opfordres til at dobbelttjekke alle AI-genererede oplysninger, inden de indgives til retten.
"AI kan være et nyttigt værktøj, men det er afgørende, at advokater forstår dets begrænsninger og risici. Fejl som disse kan have alvorlige konsekvenser for klienter og retssystemet som helhed," siger en juridisk ekspert.
Dette tilfælde understreger vigtigheden af menneskelig kontrol og gennemgang af AI-genereret indhold i juridiske dokumenter. Advokater bør være opmærksomme på de potentielle farer ved at stole blindt på AI-værktøjer.