소송 인권 침해 AI 오류 AI 얼굴 인식 불법 체포 리노시

네바다 주 리노에 거주하는 제이슨 킬링어(Jason Killinger)는 AI 얼굴 인식 카메라의 오류로 인해 발생한 불법 체포에 대한 책임을 묻기 위해 도시를 상대로 법적 대응에 나섰습니다. 킬링어는 최근 리노시를 상대로 소송을 제기했으며, 이 사건은 AI 감시 시스템의 오용이 초래한 대표적인 사례 중 하나로 주목받고 있습니다.

킬링어는 지난해 카지노에서 도박 금지 대상자로 잘못 지목되어 12시간 동안 체포되었습니다. AI 시스템은 그가 과거 카지노 출입 금지 대상자인 다른 남성과 100% 일치한다는 판정을 내렸고, 카지노 보안요원에 의해 구금된 후 경찰관 리처드 제이거(Richard Jager)에 의해 체포되었습니다. 제이거는 킬링어가 가짜 신분증을 사용했다고 주장했으나, 킬링어는 지갑에 여러 개의 신분증이 있었다고 밝혔습니다.

새로운 소송은 리노시가 경찰관들에게 AI 얼굴 인식 도구의 올바른 사용법에 대한 적절한 교육을 제공하지 않았다는 점을 지적합니다. 킬링어의 변호인들은 이 같은 시스템 오용으로 인해 수천 건의 불법 체포가 발생했다고 주장했습니다. 소송문에는 "제이거의 행동은 개별적인 오류가 아니라, 수년간 수천 건의 유사한 방식으로 체포가 이뤄진 관행의 결과"라고 명시되어 있습니다.

AI 시스템의 오류로 인한 불법 체포는 이번이 처음이 아닙니다. 지난해 노스다코타 주 파고에서는 AI가 생성한 조사 자료를 바탕으로 무고한 할머니가 ATM 사기범으로 지목되어 6개월 이상 구금된 사건이 있었습니다. 은행 기록상 할머니는 사건 당시 현장에서 1,200마일 떨어진 곳에 있었습니다.

킬링어의 변호인은 구체적인 배상액을 명시하지 않았지만, 리노시 taxpayers(세금 납부자)들은 징벌적 손해배상, 변호사 비용, 수갑으로 인한 부상 배상 등을 지불해야 할 수 있습니다. 만약 킬링어가 승소한다면, AI 알고리즘이 인간의 판단을 대체하는 시대에 불법 체포에 대한 새로운 법적 선례가 될 수 있습니다.

AI 얼굴 인식의 문제점

  • AI 얼굴 인식 시스템은 인종, 성별, 피부색 등에 따라 오류율이 다르게 나타날 수 있습니다.
  • 잘못된 얼굴 인식으로 인한 오해는 무고한 시민의 인권 침해로 이어질 수 있습니다.
  • 정부와 기업은 AI 시스템의 투명성과 책임성을 강화해야 합니다.

자세한 내용은 퓨처리즘(Futurism)을 참고하세요.

출처: Futurism
나이키 AI 디자인 월드컵 유니폼, ‘실패작’으로 판정…팬들 분노 폭발
← 이전

나이키 AI 디자인 월드컵 유니폼, ‘실패작’으로 판정…팬들 분노 폭발

 배달앱 기사들의 과속 원인은 시스템 압박…연구 결과
다음 →

배달앱 기사들의 과속 원인은 시스템 압박…연구 결과