AI 환각 설리번&크롬웰 법률 AI 오류 법정 제출 문서 로펌 AI 정책 AI 기술 한계 법률 AI 안전 법률 기술 AI 오류 사례 법률 AI 규제

AI ‘환각’ 오류로 법정 제출 문서 오류…세계적 로펌도 예외 없었다

세계적인 로펌 설리번&크롬웰(S&C)이 AI가 생성한 허위 인용문과 오류가 포함된 법정 제출 문서를 제출해 파문이 일고 있다. AI 기술의 ‘환각’ 현상으로 인한 오류가 법정 문서에 포함되면서, AI의 신뢰성에 대한 우려가 다시 한 번 제기되고 있다.

AI ‘환각’이란 무엇인가?

AI ‘환각’이란 인공지능이 실제 존재하지 않거나 잘못된 정보(예: 존재하지 않는 판례, 오류 인용문)를 생성하는 현상을 말한다. 로펌들은 AI 도구를 활용해 법리 연구와 문서 작성을 돕고 있지만, 이러한 오류가 법정 제출 문서에 포함될 경우 심각한 법적 문제로 이어질 수 있다.

‘안전 보장’ 자문하던 로펌이 AI 오류로 곤욕

설리번&크롬웰(S&C)은 AI의 안전한 활용을 자문하던 기업 중 하나로, 자체 웹사이트에서 AI의 ‘안전하고 윤리적인 배포’를 위한 노력을 강조해 왔다. 그러나 이번 사건으로 인해 이 같은 주장이 ‘역설’로 비춰지고 있다.

S&C는 최근 AI가 생성한 허위 인용문과 오류가 포함된 비상동의 신청서를 법정에 제출했으며, 이 사실을 인지한 후 즉시 정정 서한을 제출했다고 밝혔다. S&C의 앤디 디트더리히(Andy Dietderich) 고문변호사는 다음과 같이 밝혔다:

"2026년 4월 9일 제출된 비상동의 신청서에 AI가 생성한 잘못된 인용문과 기타 오류가 포함되어 있음을 확인했습니다. 해당 오류는 첨부된 일정표에 자세히 기재되어 있으며, 저희는 이 문제를 심각하게 받아들이고 있습니다."

디트더리히 고문은 오류가 발생한 원인을 AI ‘환각’으로 지목하며, "이 같은 상황은 저희의 AI 사용 정책과 훈련 절차가 제대로 준수되지 않았기 때문"이라고 설명했다. 또한, 법적 인용문의 검토 프로세스에서도 AI가 생성한 오류가 발견되지 못했다고 밝혔다.

‘AI 실패의 전당’에 오른 S&C…역설적인 상황

이번 사건은 AI 오류로 인한 법적 문제를 겪은 로펌 리스트에 S&C를 추가시켰다. 흥미로운 점은, 이 오류를 지적한 상대측 로펌인 보이스실러플렉서(BSF)가 과거에도 AI 오류로 비난받은 바 있다는 사실이다. BSF는 ‘엘리트 로펌 AI 실패’ 리스트의 정상에 오른 적이 있으며, 지난해에는 공동변호인의 AI 오류를 발견하지 못해 추가적인 문제를 일으켰다.

이에 대해 디트더리히 고문은 "이번 오류는 AI 사용 정책 미준수로 인한 것이며, 저희는 이를 철저히 재검토할 것"이라고 밝혔다. 그는 또한 "AI 오류가 발생했을 때, 책임을 전가하지 않고 솔직히 인정하는 것이 중요하다"며, 과거 BSF의 사례를 언급하며 반성하는 태도를 보였다.

AI 기술의 한계와 로펌의 책임

AI 기술은 법리 연구와 문서 작성을 효율화하는 데 도움을 주고 있지만, ‘환각’과 같은 오류가 발생할 경우 심각한 법적 문제를 초래할 수 있다. 로펌들은 AI 사용 시 엄격한 검토 프로세스를 마련하고, AI가 생성한 정보의 정확성을 반드시 확인해야 한다.

이번 사건을 계기로, AI 기술의 한계와 로펌의 책임을 재고하는 계기가 될 것으로 보인다. AI 기술이 발전함에 따라, 로펌들은 AI 사용 정책을 강화하고, AI 오류에 대한 대응 체계를 마련해야 할 것이다.

출처: Reason
JVL, 웹비상 최우수상 수상…트럼프 Jr. 2028 대선 유력후보로 부상
← 이전

JVL, 웹비상 최우수상 수상…트럼프 Jr. 2028 대선 유력후보로 부상

 메긴 켈리, 제이크 테이퍼의 ‘표현의 자유’ 포켓스퀘어에 ‘공허한 허위 선전’ 비판
다음 →

메긴 켈리, 제이크 테이퍼의 ‘표현의 자유’ 포켓스퀘어에 ‘공허한 허위 선...