AI 감시 카메라 오류로 무고한Colorado 주민, 반복되는 경찰 추행에 시달려

미국 콜로라도주 Cherry Hills Village에 사는 Kyle Dausman(30세) 씨는 아무런 잘못도 하지 않았지만, AI 기반 감시 시스템의 오류로 인해 경찰의 반복적인 추행을 당하고 있다. 그의 트럭은 Flock Safety의 자동 번호판 인식 카메라(ALPR)에 ‘수배 차량’으로 잘못 등록되었고, 이로 인해 그는 일상생활에서 끊임없는 경찰 추행을 경험하고 있다.

지역 방송국 9News와의 인터뷰에서 Dausman 씨는 "트럭을 이용할 수 없을 정도로 끊임없이 경찰에 연행당하고 있다. 제 안전까지 위협받고 있다"며 "갑자기 경찰차가 나타나 사이렌을 울리며 쫓아오곤 한다"고 밝혔다. Cherry Hills Village 경찰서에 따르면, Dausman 씨는 무죄임이 확인되었지만, 그의 차량 번호판이 콜로라도 범죄 정보 센터(CCIC) 데이터베이스에서 잘못 연결되어 발생한 일이었다.

Flock Safety는 미국 전역에 20만 대 이상의 ALPR 카메라를 배치한 AI 감시 기업으로, 콜로라도주 덴버 지역만 해도 수백 대의 카메라가 가동 중이다. 특히 Arapahoe 카운티(Cherry Hills Village가 위치한 곳)에는 최소 283대의 ALPR 카메라가 설치되어 있으며, 이 중 상당수는 Flock의 시스템에 연결되어 있다. Dausman 씨는 "주변 모든 도로에 카메라가 설치되어 있어 지나갈 때마다 경찰에게 알림이 발송된다"며 "이 문제는 콜로라도주 어디에서나 발생할 수 있다"고 설명했다.

9News에 따르면, 이phantom(허위) 수배 영장은 길핀 카운티에서 발급된 영장 데이터 입력 오류에서 비롯된 것으로 확인됐다. Dausman 씨는 문제를 해결하기 위해 길핀 카운티 법원 시스템에 연락했지만, 해당 영장의 용의자 이름을 제공하라는 요구만 받았을 뿐 아무런 도움도 받지 못했다. 그는 "수배 영장이 아직 활성화되어 있어 경찰은 정보를 제공할 수 없다"며 "한 번 Flock 시스템에 등록되면, 빠져나오기 위해 스스로 모든 책임을 져야 한다"고 말했다.

이 시스템 오류로 인해 Dausman 씨는 일상생활에서 심각한 불편을 겪고 있다. 병원 예약이나 출근길에 경찰 추행으로 인한 지연이 발생할 수 있으며, 수배 영장의 내용조차 알 수 없어 경찰의 과잉 대응에 노출될 위험도 있다. 그는 "이제 시스템에 등록되었고, 빠져나오기가 쉽지 않다"며 "한 번 시스템에 들어오면 빠져나오기 어렵다"고 안타까움을 표했다.

AI 감시 시스템의 문제점

Dausman 씨의 사례는 AI 기반 감시 시스템의 오류가 개인의 삶에 미치는 심각한 영향을 보여준다. Flock Safety의 ALPR 시스템은 미국 전역에서 사용되고 있지만, 데이터 오류로 인한 무고한 피해 사례가 잇따르고 있다. 특히 자동화된 시스템은 오류 발생 시 개인이 직접 해결해야 하는 구조적 한계를 가지고 있어, 무고한 시민들이 시스템의 희생양이 되고 있다.

사회적 파장과 해결 방안

AI 감시 기술의 확산으로 인해 개인의 프라이버시와 안전이 위협받고 있는 가운데, Dausman 씨의 사례는 시스템 오류에 대한 즉각적인 대책 마련의 필요성을 제기한다. 전문가들은 데이터 정확성 향상, 오류 발생 시 신속한 대응 체계 구축, 그리고 시민의 권리 보호 강화 등을 요구하고 있다. 한편, Flock Safety와 같은 기업들은 시스템 오류에 대한 책임을 명확히 하고, 피해자 지원 체계를 강화해야 한다는 지적도 제기되고 있다.

"한 번 시스템에 등록되면 빠져나오기가 어렵습니다. AI 감시 시스템은 편리할 수 있지만, 오류가 발생했을 때의 대처는 개인이 감당해야 합니다." — Kyle Dausman

관련 사례: AI 감시 기술의 남용

최근 뉴욕 매디슨 스퀘어 가든에서는 facial recognition(얼굴 인식) 시스템을 이용해 트랜스젠더 여성에게 2년간 스토킹을 자행한 사실이 드러났다. 이 사건은 AI 감시 기술이 프라이버시 침해와 인권 침해로 이어질 수 있음을 보여주는 또 다른 사례다. AI 기술의 발전이 가속화됨에 따라, 이와 같은 사례들은 기술의 남용 방지와 규제 강화의 필요성을 강조하고 있다.