Man stämmer kommun efter AI-kamera felaktigt identifierade honom som inbrottstjuv

AI-felaktig identifiering ledde till 12 timmars frihetsberövande

Jason Killinger, en man bosatt i Nevada, har stämt staden Reno efter att ha blivit felaktigt arresterad av polis. Enligt stämningsansökan skedde arresteringen efter att en AI-baserad ansiktsigenkänningskamera felaktigt identifierade honom som en person som tidigare varit förbjuden att vistas på ett kasino.

Flera misstag ledde till arrestering

Under tiden som Killinger spelade på ett kasino i området identifierades han av AI-systemet som en "100-procentig match" för en annan man som tidigare hade förbjudits att vistas på kasinot. Kasinovakterna tillkallade polis, och officer Richard Jager arresterade Killinger misstänkt för att ha använt falsk identitet för att undvika kasinots personal.

Enligt stämningsansökan gjorde polisen flera avgörande misstag. Bland annat vägrade Jager att kontrollera Killinger för alternativa identitetsdokument, trots att Killinger uppgav att han hade minst tre giltiga ID-handlingar i sin plånbok.

Stämningen riktas även mot staden Reno

Den nya stämningsansökan utvidgar ansvaret till staden Reno. Killinger och hans advokater hävdar att staden har misslyckats med att utbilda polisstyrkan i korrekt användning av AI-baserade ansiktsigenkänningssystem. Enligt uppgifter har detta resulterat i tusentals olagliga arresteringar baserade på felaktiga AI-identifieringar.

"Jagers agerande var inte en isolerad händelse utan resultatet av en utbredd praxis bland hundratals kommunanställda som under flera år har gjort tusentals liknande arresteringar," heter det i den uppdaterade stämningsansökan.

Fler fall av AI-relaterade felaktiga arresteringar

Detta är inte det första fallet där polisen har förlitat sig på AI-system framför mänsklig bedömning. Tidigare år arresterades en oskyldig mormor i Fargo, som tillbringade över sex månader i fängelse efter att en generativ AI hade pekat ut henne som ansvarig för ett bankomatbedrägeri. Bankuppgifter visade senare att hon befann sig 1 900 kilometer från brottsplatsen vid tidpunkten för brottet.

Kan sätta prejudikat för framtida AI-relaterade fall

Killinger och hans advokater har ännu inte specificerat vilken ersättning de kräver. Om stämningen bifalls kan staden Reno bli skyldig att betala skadestånd, advokatskostnader samt ersättning för de skador Killinger åsamkats under handfängslandet.

En eventuell framgång för Killinger kan komma att sätta ett viktigt prejudikat för framtida fall av felaktiga arresteringar i en tid där AI-algoritmer, snarare än människor, allt oftare sköter polisens arbete.

"Det här är inte bara ett fall om en enskild polis som agerat fel, utan om ett systematiskt misslyckande som lett till tusentals olagliga arresteringar."