ChatGPT 사용자 폭력 계획 예고에도 OpenAI, 경찰에 알리지 않아… 샘 알트만 "깊은 사과"

탐블러리지 총기 난사 사건의 배경

지난 2월 캐나다 브리티시컬럼비아주 탐블러리지에서 18세 소녀 제시 반 루츠엘라가 자택에서 시작된 총기 난사 사건을 일으켰다. 이 사건으로 8명이 사망하고 수십 명이 부상을 입었으며, 가해자는 이후 인근 고등학교로 무대를 옮겨 추가 범행을 저지르다 자살로 마무리됐다.

OpenAI의 미흡한 대응과 법적 책임 논란

수사 결과, 가해자의 ChatGPT 계정이 2024년 6월 OpenAI에 의해 정지되었음이 확인됐다. 정지 사유는 총기 폭력 시나리오를 논의했다는 것이었으며, 이는 난사 사건 발생 수개월 전이었다. 그러나 OpenAI는 이 사실을 경찰에 알리지 않았고, 이는 현대 사회에서 기술의 역할과 윤리적 책임을 둘러싼 심각한 문제를 제기했다.

이 사건은 AI 기술이 스토킹, 폭력, 살인 등 심각한 범죄로 이어질 가능성을 방치한 대표적인 사례다. 특히 AI가 위험한 사용자를 식별했음에도 적절한 조치를 취하지 않은 점은 기술 기업의 사회적 책임을 다시 한 번 강조했다.

샘 알트만의 공식 사과와 한계

OpenAI CEO 샘 알트만은 4월 23일 탐블러리지 지역사회에 보낸 공개 서한을 통해 "정지된 계정을 경찰에 알리지 못한 점 깊이 사과한다"고 밝혔다. 그는 "어떤 말로도 충분하지 않지만, community의 고통과 되돌릴 수 없는 손실을 인정하기 위해 사과가 필요하다"며 진심 어린 유감을 표명했다.

"어느 누구도 이런 비극을 겪어서는 안 됩니다. 자식을 잃는 고통보다 더한 것은 이 세상에 없습니다. 진심으로 애도를 표합니다."

그러나 브리티시컬럼비아 주지사 데이비드 에비는 알트만의 사과에 대해 "필요한 조치는 맞지만, 탐블러리지 가족들에게는 너무나 부족한 대응"이라고 강하게 비판했다. 그는 트위터를 통해 "이 비극으로 고통받는 가족들에게는 사과만으로는 충분하지 않다"며 OpenAI의 책임을 강조했다.

OpenAI의 개선 노력과 한계

사건 이후 OpenAI는 AI가 위험한 사용자를 감지할 수 있도록 정책을 강화했다. 글로벌 정책 책임자 앤 O'리어는 "정신 건강 및 행동 전문가와 협력해 위험 사용자를 평가하고 있으며, 법 집행기관에 신고 기준을 완화했다"고 밝혔다. 그는 "ChatGPT 대화에서 구체적인 목표, 방법, 시기를 언급하지 않더라도 즉각적인 폭력 위험이 감지될 경우 신고할 수 있도록 했다"고 설명했다.

또한 알트만은 "미래에 이런 비극을 예방하기 위해 모든 수준의 정부와 협력하겠다"고 약속했다. 그러나 현재까지는 AI가 위험한 사용자를 식별했음에도 적절한 조치를 취하지 못한 과거의 실수가 반복되지 않도록 하는 데 중점을 두고 있다.

ChatGPT와 연관된 또 다른 총기 사건

이 사건은 ChatGPT가 연루된 유일한 총기 사건이 아니다. 플로리다주립대학교 학생 피닉스 이크너는 2023년 12월 학교 캠퍼스에서 2명을 살해하고 7명을 부상입힌 총기 난사를 저질렀다. 수사 결과, 이크너는 난사 전 ChatGPT와 폭력 계획에 대한 광범위한 대화를 나눈 것으로 밝혀졌다.

이 사건의 transcripts(대화 기록)가 공개되면서 ChatGPT가 어떻게 범죄 계획에 활용될 수 있는지가 드러났다. AI가 범죄 예방에 기여할 수 있지만, 동시에 범죄 계획 수립에도 악용될 수 있다는 점에서 기술의 이중적 nature가 다시 한 번 주목받고 있다.

AI와 법 집행의 미래

AI 기술이 일상생활에 깊숙이 침투하면서, 기술 기업들은 사회적 책임을 다해야 한다는 압박을 받고 있다. 특히 AI가 위험한 사용자를 식별했음에도 적절한 조치를 취하지 못한 경우, 그 책임은 기술 기업에 돌아가고 있다. 샘 알트만의 사과와 OpenAI의 정책 변화는 AI 기술의 윤리적 책임을 다하기 위한 첫걸음일 뿐이다.

앞으로 AI가 범죄 예방에 더 적극적으로 활용될 수 있도록 기술 기업, 정부, 사회가 협력해야 할 시점이다. AI가 사회에 미치는 영향을 면밀히 검토하고, 안전한 사용을 위한 규제와 가이드라인이 마련되어야 한다.