Mann saksøker Reno etter AI-feil førte til feilaktig arrestasjon

En mann fra Nevada har saksøkt byen Reno etter at et AI-basert ansiktsgjenkjenningsystem feilaktig identifiserte ham som en person som hadde fått adgang forbudt til et kasino. Saken, som nylig ble utvidet til å inkludere byen som saksøkt, kan bli et avgjørende juridisk eksempel på hvordan overdreven tillit til kunstig intelligens i politiarbeid kan føre til alvorlige feil.

Feilaktig arrestasjon basert på AI-feil

Jason Killinger ble nylig arrestert av politioffiser Richard Jager etter at et AI-system feilaktig identifiserte ham som en person som hadde fått adgang forbudt til kasinoet Circus Circus Reno. Killinger ble holdt i forvaring i tolv timer før feilen ble oppdaget.

Saken mot byen Reno er den siste utviklingen i Killengers langvarige kamp for rettferdighet. Tidligere hadde han allerede saksøkt offiser Jager, men retten godkjente nylig at byen også kunne inkluderes som saksøkt part, ifølge Reno Gazette Journal.

Mangelfull opplæring og systemiske feil

Killengers advokater hevder at feilaktig arrestasjon ikke var et isolert tilfelle, men et resultat av systemiske mangler i opplæringen av politifolk i bruk av AI-verktøy. De påstår at slike feil har ført til tusenvis av ulovlige arrestasjoner basert på ansiktsgjenkjenning.

«Offiser Jaggers handlinger var ikke et isolert tilfelle, men et resultat av en utbredt praksis blant hundrevis av kommunale ansatte som har foretatt tusenvis av arrestasjoner på samme måte over flere år,» heter det i den oppdaterte søksmålet.

Tidligere tilfeller av AI-feil i rettssystemet

Denne saken er ikke den første der politiet har tillit til maskiner framfor menneskelig dømmekraft. I fjor ble en uskyldig bestemor fra North Dakota fengslet i over seks måneder etter at politiet i Fargo brukte et generativt AI-system til å generere etterforskningsspørsmål. Systemet feilaktig identifiserte henne som gjerningspersonen i en minibanksvindel, til tross for at bankregistre viste at hun var 1 200 mil unna på forbrytelsestidspunktet.

Potensielle konsekvenser for Reno og AI-bruk i politiet

Selv om Killengers advokater ikke har spesifisert hvilken erstatning de krever, kan Reno-kommune bli pålagt å betale straffeerstatning, advokatsalærer og erstatning for skader han pådro seg under arrestasjonen. En seier for Killinger kan sette en viktig juridisk presedens for fremtidige saker om feilaktige arrestasjoner i en tid der AI-algoritmer i økende grad tar over oppgaver som tidligere ble utført av mennesker.

Flere saker med AI-feil i politiarbeid

Problemet med AI-feil i rettssystemet har vært gjenstand for økende oppmerksomhet de siste årene. Eksperter advarer om at overdreven tillit til slike systemer kan føre til alvorlige menneskelige konsekvenser, særlig når algoritmene er basert på feilaktige eller partiske data.

«Dette er et varsel om at vi må være svært forsiktige med hvordan vi integrerer AI i viktige beslutningsprosesser, særlig når det gjelder rettssikkerhet,» sier en juridisk ekspert til Futurism.