Advokatbyrås AI-fel: Företaget som rådger OpenAI hamnar i skamvrån

En av världens mest ansedda advokatbyråer, Sullivan & Cromwell (S&C), har nu hamnat på listan över företag som misslyckats med att kontrollera AI-genererat innehåll i juridiska handlingar. Felet upptäcktes av konkurrenten Boies Schiller Flexner (BSF), som tidigare själva varit inblandade i liknande AI-relaterade missöden.

Det ironiska i situationen är att S&C tidigare har marknadsfört sig som rådgivare till OpenAI gällande "säker och etisk implementering av artificiell intelligens". Nu har byrån själva fallit offer för de så kallade AI-hallucinationerna – när AI-system skapar felaktiga eller påhittade källor, citat eller rättsfall.

Felet upptäcktes av BSF, som granskade S&C:s stämningsansökan och fann flera felaktiga AI-genererade källhänvisningar. BSF har tidigare själva varit med om liknande situationer, bland annat när de missade AI-genererade fel i en stämningsansökan förra året. Trots detta lyckades de identifiera felen i S&C:s handlingar.

Byråns erkännande och åtgärder

S&C:s seniorpartner Andy Dietderich, som har arbetat på byrån i nästan 30 år och leder dess rekonstruktionsavdelning, skrev ett brev till domstolen där han erkände felen. I brevet stod bland annat:

Jag blev medveten torsdag kväll om att stämningsansökan innehåller felaktiga källhänvisningar och andra fel, vilka är korrigerade i bilaga A till detta brev. Bland felen finns AI-genererade 'hallucinationer', det vill säga situationer där AI-verktyg skapar påhittade rättsfall, felaktiga citat eller icke-existerande rättskällor. Vi beklagar djupt att detta har inträffat.

Dietderich förklarade vidare att byrån har strikta policyer och utbildningskrav för användning av AI-verktyg i juridiska sammanhang, men att dessa inte följdes i detta fall. Dessutom fanns det brister i granskningen av de juridiska källhänvisningarna, vilket gjorde att felen inte upptäcktes.

AI-felens konsekvenser för juridiken

Detta fall belyser de risker som följer med användningen av AI inom juridiken. Även om AI kan effektivisera vissa processer, riskerar felaktiga eller påhittade uppgifter att underminera förtroendet för rättssystemet. Flera advokatbyråer har under det senaste året hamnat i liknande situationer, vilket har lett till ökad uppmärksamhet kring behovet av strikta kontrollmekanismer och utbildning.

S&C:s erkännande och åtgärder för att åtgärda felen visar på vikten av transparens och ansvarstagande när det gäller AI-användning. Samtidigt påminner fallet om att även de mest erfarna aktörerna inom juridiken inte är immuna mot de risker som AI medför.