Topadvocatenkantoor Sullivan & Cromwell betrapt op AI-fouten in rechtszaak

Een van de meest vooraanstaande advocatenkantoren ter wereld, Sullivan & Cromwell, heeft zich aangesloten bij de lijst van juridische firma’s die AI-‘hallucinaties’ in hun processtukken hebben ingediend. Dat blijkt uit een brief van senior partner Andy Dietderich, die de fouten deze week erkende.

Het kantoor, dat onder meer OpenAI adviseert over het veilige en ethische gebruik van kunstmatige intelligentie, meldde dat een recent ingediende Emergency Motion foutieve citaten en andere onjuistheden bevatte. Deze fouten waren volledig gegenereerd door AI-tools, ook wel ‘hallucinaties’ genoemd: AI-systemen die valse juridische bronnen of verkeerde citaten produceren.

Dietderich, een ervaren partner met bijna 30 jaar ervaring en leider van de herstructureringspraktijk, gaf toe dat de interne controles en trainingsprocedures voor AI-gebruik niet waren nageleefd. “We betreuren deze fouten diep,” schrijft hij in zijn brief. “De firma heeft strikte richtlijnen voor AI-gebruik, maar deze zijn in dit geval niet gevolgd.”

Het ironische is dat de fouten werden opgemerkt door Boies Schiller Flexner, een ander topkantoor dat zelf recentelijk in opspraak raakte door soortgelijke AI-fouten. Tot voor kort gold Boies Schiller als de koploper in deze categorie. “Physician, heal thyself,” aldus een commentator.

Dietderich nam persoonlijk verantwoordelijkheid voor de fouten en wees niemand aan als zondebok. “Dit was duidelijk een fout van een medewerker of voormalig medewerker,” aldus de senior partner. “Ik heb de fouten zelf ondertekend en had ze moeten opmerken.”

De zaak onderstreept de risico’s van AI in de juridische sector, waar nauwkeurigheid van levensbelang is. Sullivan & Cromwell benadrukt dat het de procedures zal aanscherpen om dergelijke fouten in de toekomst te voorkomen.