Homem sofre perseguição policial constante por erro em sistema de vigilância com IA

Erro em sistema de vigilância com IA mantém homem em ciclo de abordagens policiais

Kyle Dausman, morador de Cherry Hills Village, na região sul de Denver, está preso em um ciclo incessante de abordagens policiais após seu caminhão ser erroneamente sinalizado pelo sistema de leitura automática de placas da Flock Safety. Segundo relatos ao canal local 9News, toda vez que Dausman sai de casa, policiais são automaticamente alertados sobre a presença de um veículo vinculado a um mandado não cumprido, mesmo sem ter cometido qualquer infração.

"Sou parado repetidamente. Não consigo usar meu caminhão de forma alguma. Sinto minha segurança em risco", declarou Dausman ao 9News. "Eles aparecem do nada e me seguem com as luzes piscando."

A polícia de Cherry Hills Village confirmou que Dausman não cometeu nenhum crime. O problema, segundo as autoridades, é que a placa de seu veículo foi associada incorretamente a um mandado no banco de dados do Colorado Crime Information Center. A Flock Safety, empresa especializada em vigilância com IA, possui centenas de câmeras de leitura automática de placas em operação apenas na região de Denver.

Em Arapahoe County, onde fica Cherry Hills Village, há pelo menos 283 câmeras ativas mapeadas pela ferramenta DeFlock, que monitora a implantação desses dispositivos. Embora a polícia local tenha removido Dausman de sua lista de alertas após algumas abordagens, a ampla presença de câmeras na região torna praticamente impossível que ele viaje sem ser parado repetidamente.

"Em qualquer lugar do estado, toda vez que passo por uma câmera, os policiais recebem alertas de que estou na área", explicou Dausman.

Segundo o 9News, o mandado fantasma teria origem em um erro de digitação em um documento emitido pelo condado de Gilpin, no Colorado. Ao tentar resolver a situação, Dausman entrou em contato com o sistema judiciário do condado, mas não obteve sucesso: os funcionários alegaram que ele precisaria fornecer o nome do suspeito vinculado ao mandado incorreto, informação que nenhuma autoridade policial poderia revelar, já que o caso ainda estava em andamento.

"Uma vez que você entra no sistema da Flock, cabe a você sair. Você precisa arcar com toda a responsabilidade para resolver isso", afirmou Dausman.

Agora, com sua placa marcada, o morador do Colorado enfrenta riscos constantes ao dirigir. O sistema da Flock pode causar atrasos dispendiosos em seus deslocamentos para trabalho ou consultas médicas. Sem saber o conteúdo do mandado, ele também não tem como prever como alguns policiais reagirão durante as abordagens.

"Tudo o que sei é que agora estou no sistema", declarou o homem. "E não há uma forma fácil de sair dele uma vez que você entra."

Vigilância com IA e seus impactos

Casos como o de Dausman levantam questões sobre os riscos da vigilância automatizada e a falta de mecanismos eficazes para corrigir erros em sistemas que afetam a vida de cidadãos inocentes. A Flock Safety, cujas câmeras estão se espalhando pelos Estados Unidos, é apenas um exemplo de como a tecnologia de reconhecimento de placas pode gerar consequências graves quando mal gerenciada.

Em outro episódio recente, o Madison Square Garden teria usado reconhecimento facial para monitorar uma mulher trans por dois anos, segundo relatos.