법조계 AI ChatGPT 법률 AI 허위 인용 법원 소송 사건 증가 법률 문서 허위 판례

AI 기술이 법조계 전반에 빠르게 확산되면서 허위 인용문, 조작된 법원 문서 제출 등 심각한 문제가 잇따르고 있다. 변호사부터 초보 법조인까지 ChatGPT 등 AI 도구를 활용해 법정에서 가장 설득력 있는 주장을 펼치려 하지만, 때로는 그 주장이 사실과 동떨어진 경우도 적지 않다.

지난달 top 50 규모의 대형 로펌 설리번 크롬웰(Sullivan Cromwell)은 캄보디아에서 운영된 사기 사건에서 허위 판례 이름과 조작된 인용문을 포함한 법원 문서를 제출해 사과했다.不仅如此, 미국 연방파산법전(US Bankruptcy Code)의 잘못된 조문을 인용하기도 했다. “이 같은 일이 발생한 점 깊이 사과드립니다.”라고 로펌은 해당 사건의 판사에게 보낸 사과 편지에서 밝혔다. 이 사건은 AI가 법조계에 미치는 부정적 영향의 대표적인 사례 중 하나다.

영국에서도 AI 사용으로 인한 문제가 잇따르고 있다. 2025년 영국 고등법원에서는 한 변호사가 제출한 45건의 판례 인용문 중 18건이 허위로 밝혀졌다. 같은 해 다른 한 변호사는 AI를 이용해 청문회 준비를 하던 중 조작된 인용문을 은폐하려다 적발됐다. 2023년 Mata v. Avianca 사건은 변호사가 ChatGPT를 이용해 존재하지 않는 판례를 기반으로 법원 문서를 작성한 대표적인 사례였다.

AI 사용이 법원의 업무 부담 가중

AI가 법조계에 미치는 영향은 통계 수치를 통해 점차 드러나고 있다. 최근 미국 연방법원의 소송 건수가 급증하고 있는 것으로 나타났다. MIT 연구원인 아난드 샤(Amand Shah)는 “미국 연방민사소송에서 자신소송(pro se) 비중이 오랫동안 11% 수준을 유지해왔으나, AI 시대 이후 18%까지 급등했다”고 밝혔다.

샤와 공동 연구자 조슈아 레비(Joshua Levy, USC)는 지난 8년간 제출된 1,600건의 민사소송을 무작위로 분석한 결과, AI로 생성된 텍스트 비중이 생성형 AI 등장 이전에는 ‘거의 0%’에서 2026년 초 기준 약 18%로 급증했다는 사실을 확인했다. “놀랄 수밖에 없었습니다.”라고 샤는 말했다.

더 깊은 분석을 진행한 결과, AI 사용 증가 현상은 특허나 증권법 등 복잡한 기술 분야가 아닌 비교적 단순한 유형의 사건에서 두드러졌다. 샤는 “AI가 법적 논리의 틀과 관련 문서를 최소한의 노력으로 쉽게 생성할 수 있게 되면서, 이전에는 시도조차 어려웠던 소송을 사람들이 제기하기 시작한 것 같다”고 분석했다.

AI로 인한 법원 업무 증가, 해결 속도엔 큰 영향 미치지 않지만

AI의 급격한 확산이 법원의 업무량을 증가시키고 있지만, 아직까지는 사건 해결 속도에 큰 영향을 미치지는 않는 것으로 나타났다. 샤는 “사건이 더 빠르게 또는 더 느리게 해결되는 경우는 없다”면서도 “대립 당사자 간의 주고받음이 늘어나면서 판사가 검토해야 할 문서 수가 약 158% 증가했다”고 설명했다.

AI가 법조계에 미치는 광범위한 영향은 아직 fully materialize되지 않았지만, 법원의 업무 과중과 오류 가능성은 점차 현실화되고 있다. 전문가들은 AI 사용 규제와 투명한 검증 시스템 마련이 시급하다고 지적하고 있다.

출처: Fast Company
1942년 5월 11일: 고든 히라바야시 사건과 대법원의 역사적 판결
← 이전

1942년 5월 11일: 고든 히라바야시 사건과 대법원의 역사적 판결

 Nico Collins, 휴스턴 텍산스에서 커리어 마무리하고 싶다
다음 →

Nico Collins, 휴스턴 텍산스에서 커리어 마무리하고 싶다