AI 규제 법률 기술 법정 제재 허위 인용문 법률 AI AI 오류 법정 문서 설리번 & 크롬웰 로펌 AI 사용 AI 실수

AI가 만든 허위 인용문으로 법정에서 망신당한 월스트리트 명문 로펌

최근 법정에서 AI 사용 실수가 드러나면서 로펌이 수치스러운 상황에 처했다. 미국 뉴욕 맨해튼 연방파산법원에서 진행 중인 주요 사건에서, 유력 로펌 설리번 & 크롬웰(Sullivan & Cromwell)이 AI가 생성한 허위 인용문을 포함한 법정 서류를 제출한 사실이 확인됐다.

이 로펌의 구조조정 그룹 공동 대표인 앤드류 디트리히(Andrew Dietderich)는 2월 22일 연방판사 마틴 글렌(Martin Glenn)에게 보낸 사과 편지에서 "이 같은 일이 발생한 데 대해 깊이 유감스럽다"고 밝혔다.

상대 로펌이 발견한 AI의 오류

허위 인용문은 상대 로펌인 보이스 시슬러 플렉스너(Boies Schiller Flexner)가 제출한 반박동의서에서 발견됐다. 설리번 & 크롬웰의 법정 서류에는 미국 파산법 관련 조항을 잘못 인용한 부분이 있었고, 실제 존재하지 않는 판례를 인용하거나 잘못 요약한 사례도 포함됐다. 특히 한 인용문은 아예 판례가 아닌 것으로 밝혀졌다.

디트리히 대표는 사과문에서 "AI 도구 사용에 대한 엄격한 규정이 있었으나, 이 규정이 준수되지 않았다"며 "즉각적인 시정 조치를 취했다"고 밝혔다. 그는 또한 법원의 정책이 "명확하고 엄격하다"고 강조하며, AI 사용 가이드라인 재교육과 내부 검토를 진행했다고 밝혔다. 이후 수정된 서류가 법원에 제출됐다.

AI가 만든 허위 자료, 로펌들 잇따라 실수

이 사건은 AI가 법정 문서에서 일으키는 심각한 오류가 반복되는 또 다른 사례다. AI는 종종 실제 존재하지 않는 판례를 인용하거나 법조문을 잘못 해석하는 등 심각한 오류를 범할 수 있으며, 이를 lawyers가 발견하지 못하고 제출하는 경우가 많다.Morgan Lewis를 비롯한 다른 대형 로펌들도 AI 사용으로 인한 실수로 법정에서 망신을 당한 바 있다.

법정에서 AI 오류에 대한 엄격한 대응

미국 법정에서는 AI가 만든 허위 인용문이나 오류에 대해 엄격한 제재가 가해지고 있다. 일부 판사는 잘못된 AI 자료를 제출한 변호사들에게 제재를 부과하거나 주 변호사 association에 보고하기도 한다. 예를 들어, 코젠 오코너(Cozen O'Connor) 소속 변호사 두 명이 AI 오류를 제출한 사건에서는 판사가 제재를 선택하거나, 법대 학장에게 잘못을 설명하는 편지를 쓰는 방식으로 처벌을 대신할 수 있도록 했다.

AI가 법정에서 일으키는 문제들은 점점 더 빈번해지고 있다. AI가 생성한 콘텐츠가 법정에서 증거로 제출되면서, 변호사들은 AI 사용 시 발생할 수 있는 위험성에 대해 더욱 주의를 기울여야 할 것이다.

AI 사용 가이드라인 재점검 필요

이번 사건을 계기로 로펌들은 AI 사용에 대한 내부 규정을 재점검하고, AI 도구 사용 시 발생할 수 있는 위험성을 최소화하기 위한 노력을 강화해야 한다. AI가 법정 문서에서 일으키는 오류는 단순한 실수가 아니라, 법정 신뢰성을 훼손할 수 있는 중대한 문제로 인식돼야 한다.

출처: Futurism
CATL, 6.5분 만에 10%→98% 충전 가능한 신형 EV 배터리 공개
← 이전

CATL, 6.5분 만에 10%→98% 충전 가능한 신형 EV 배터리 공개

 볼티모어 레이븐스, undrafted FA Lardarius Webb Jr. 영입…아버지의 9년 전통 잇는다
다음 →

볼티모어 레이븐스, undrafted FA Lardarius Webb Jr. 영입…아버지의 9년...