명예훼손 AI 책임 유타주 구글 AI 허위 정보 알파벳 AI 개요 법정 싸움 환각(hallucination) 디지털 명예훼손

미국 유타주에 거주하는 한 남성이 구글의 AI 서비스 ‘AI 개요’가 허위 성범죄 혐의를 생성해 명예를 훼손했다는 이유로 알파벳(구글 모회사)을 상대로 연방법원에 고소를 제기했다.

지난 6월 17일(현지시간) 연방법원으로 이송된 머레이 대 알파벳 사건의 소장에 따르면, 피해자인 머레이 씨는 AI 개요가 생성한 허위 혐의로 인해 가족, 친구, 이웃은 물론Romantic relationship까지 파탄에 이르렀다고 주장했다.

소장에는 머레이 씨가 AI 개요에서 제기된 혐의를 부인하며 해명했지만, 많은 사람들이 구글의 정보만 믿고 오해를 풀지 못했다고 기술돼 있다. 심지어는 청소 서비스 업체 직원 가족이 ‘성범죄자’라는 낙인을 찍어 서비스 중단을 강요했으며, 지역 주민들은 거리에서 머레이 씨를 비난했다고 한다.

이러한 허위 정보로 인해 머레이 씨는 직업적 손실(계약 취소, 고객 이탈)뿐 아니라 개인적 관계까지 파괴됐으며, 파산 위기에 처했다고 주장했다.

AI 명예훼손의 새로운 양상

일반적인 ‘쓰레기 입력 → 쓰레기 출력(GIGO)’ 논리와 달리, 이번 사건은 AI가 스스로 허위 사실을 조합해 명예훼손을 일으킨 첫 사례라는 점에서 주목받고 있다. 머레이 씨는 AI 개요가 온라인에 존재하지 않는 혐의를 ‘창조’했다고 주장했다.

소장에는 머레이 씨가 AI 개요의 허위 정보로 인해 받은 정신적·경제적 피해가 상세히 기술돼 있다. 특히 그의 파트너 가족이 직접 찾아와 혐의를 추궁하는 등 일상생활 전반에 걸쳐 심각한 피해가 발생했다고 밝혔다.

법적 쟁점과 향후 전망

AI가 생성한 콘텐츠로 인한 명예훼손 책임 문제는近年来 법조계의 주요 논쟁거리다. 이번 사건은 AI가 스스로 허위 사실을 ‘환각(hallucination)’하는 경우에 대한 법적 책임을 묻는 첫 번째 사례가 될 가능성이 있다.

구글은 AI 개요가 사용자 질의에 따라 외부 콘텐츠를 요약·제공하는 서비스라는 점에서, AI가 생성한 정보에 대한 책임을 명확히 규정해야 한다는 지적도 제기된다. 한편, AI 개발사들은 ‘안전장치’를 강화하겠지만, 기술적 한계로 인해 완벽한 방지는 어려울 것으로 보인다.

머레이 씨는 AI가 생성한 허위 정보로 인해 입은 모든 손해에 대한 배상을 요구하고 있으며, 법정闘爭은 AI 기반 콘텐츠의 책임 범위를 둘러싼 새로운 판례를 남길 것으로 예상된다.

출처: Reason
《포르자 호라이즌 6》 리뷰: 일본을 배경으로 한 끝없는 드라이브의 아름다움
← 이전

《포르자 호라이즌 6》 리뷰: 일본을 배경으로 한 끝없는 드라이브의 아름...

 포르자 호라이즌 6 모든 차량 목록 및 획득 방법
다음 →

포르자 호라이즌 6 모든 차량 목록 및 획득 방법