Mand sagsøger by efter AI-kamera førte til fejlagtig anholdelse

En AI-facial recognition-fejl har ført til en fejlagtig anholdelse og en kommende retssag mod byen Reno i Nevada, USA. Jason Killinger, en lokal mand, har anlagt sag mod både politiofficeren Richard Jager og Reno by, efter at han blev tilbageholdt i 12 timer på grundlag af en falsk positiv identifikation.

Killinger var på vej ud af et casino, da AI-systemet fejlagtigt identificerede ham som en mand, der tidligere havde været bandlyst fra stedet. Casinoets sikkerhedsfolk tilbageholdt ham, og politiofficer Jager anholdt ham med anklagen om brug af falsk ID. Killinger havde dog tre gyldige ID’er på sig, hvilket politiet aldrig kontrollerede.

Den nye sag udvider nu anklagerne til at omfatte Reno by selv. Killinger og hans advokater hævder, at byen ikke har uddannet politiet tilstrækkeligt i korrekt brug af AI-facial recognition-værktøjer. Ifølge anklageskriftet har dette ført til tusindvis af ulovlige anholdelser over flere år.

Et systemisk problem

Anklageskriftet understreger, at Jagers handlinger ikke var en isoleret hændelse, men et resultat af en bred praksis blandt hundredvis af kommunale medarbejdere. "Jagers adfærd var ikke en tilfældig hændelse, men et resultat af en udbredt praksis," hedder det i dokumentet.

Dette er ikke det første tilfælde, hvor politiet har stolet mere på maskiner end på menneskelig dømmekraft. Sidste år blev en uskyldig bedstemor i North Dakota tilbageholdt i over seks måneder efter, at politiet i Fargo brugte en AI-genereret mistænktliste til at anklage hende for hæleri. Bankoplysninger viste senere, at hun befandt sig 1.900 kilometer væk på gerningstidspunktet.

Præcedens for fremtidige sager

Killinger kræver erstatning for de skader, han har lidt under anholdelsen, herunder erstatning for fysiske og psykiske skader samt advokatsomkostninger. Hvis han vinder sagen, kan det sætte en præcedens for fremtidige sager om fejlagtige anholdelser i en tid, hvor AI-algoritmer i stigende grad overtager politiets rolle.

Sagen rejser også spørgsmål om ansvar og regulering af AI i retsvæsenet. Med stigende brug af AI-værktøjer i politiarbejdet bliver fejl som denne stadig mere alvorlige og kan få vidtrækkende konsekvenser for uskyldige borgere.