AI 챗봇 대화가 법정에서 불리한 증거로 활용된 사례
최근 미국 뉴욕 연방법원 판사는 AI 챗봇이 변호사-의뢰인 특권의 보호 대상이 아니라는 판결을 내렸다. 이는 AI를 업무에 활용하던 사람들이 예기치 못한 법적 위험에 노출될 수 있음을 보여주는 사례다.
브래드 헵너 사건의 핵심
금융 서비스 기업 GWG 홀딩스의 전 의장인 브래드 헵너는 변호사 준비 과정에서 AI 챗봇 '클로드(Claude)'에 다양한 보고서를 입력했다. 클로드가 생성한 초안 보고서를 바탕으로 변호사들이 증권사기 및 전화사기 혐의에 대한 방어 자료를 준비했으나, 법원은 이 보고서들이 특권 보호 대상이 아니라고 판단했다.
결과적으로 헵너는 클로드가 생성한 31개의 문서를 법정에 제출해야 하는 상황에 처했다. 미국 연방법원 판사 젯 라코프(Jed Rakoff)는 "AI 플랫폼인 클로드와 사용자 사이에 변호사-의뢰인 관계가 성립할 수 없다"며 특권 보호가 적용되지 않음을 명시했다.
AI 챗봇의 법적 한계
라코프 판사는 클로드가 법적 조언을 제공하지 않음을 강조하며, "클로드는 법적 조언을 제공할 수 없으며, 사용자는 자격을 갖춘 변호사와 상담해야 한다"고 답변했다고 설명했다. 이는 AI 챗봇이 법적 보호 장치를 제공하지 않음을 분명히 한 사례다.
법률사무소의 대응 변화
이 판결은 법률사무소에 큰 영향을 미치고 있다. 로이터 통신에 따르면, 백색-collar 범죄 방어 전문 로펌 '셜 트레몬테(Sher Tremonte)'는 계약서를 갱신해 "특권 있는 통신이 제3자인 AI 플랫폼에 공개될 경우 변호사-의뢰인 특권이 상실될 수 있다"는 조항을 추가했다.
기술 기업과 정부 감시의 새로운 지평
이 사건은 기술 기업이 정부 요청에 따라 개인 데이터를 제공하는 관행이 AI 시대에도 계속되고 있음을 보여준다. 특히 지난 수년간 많은 사람들이 AI 챗봇에 민감한 정보를 입력해왔는데, 이번 판결은 이러한 행동이 예기치 못한 법적 위험으로 이어질 수 있음을 시사한다.
AI와 프라이버시: 새로운 법적 분쟁의 시작
AI 챗봇이 개인 정보 보호와 법적 책임의 새로운 장을 열고 있다. 최근에는 오픈AI를 상대로 한 소송도 제기된 바 있는데, 이는 AI 기술이 가져온 새로운 법적 이슈의 한 단면일 뿐이다.
주요 시사점
- AI 챗봇 사용 시 주의 필요: AI에 입력한 정보가 법정에서 증거로 사용될 수 있음을 인지해야 한다.
- 변호사-의뢰인 특권의 한계: AI 챗봇은 특권 보호 대상이 아니라는 법원의 판결이 나왔다.
- 기업과 개인 모두의 대응: 법률사무소와 개인이 AI 사용 방식을 재검토해야 할 시점이다.