AI ChatGPT 法律事務所 サリバン・クロムウェル 法廷ミス

AIの「幻覚」が招いた法廷の失態

新たな法廷戦術の一つが、相手方の提出書類にAIによる「幻覚（ハルシネーション）」が紛れ込んでいないかをチェックし、裁判官に指摘することだ。この手法によって、名門ウォール街法律事務所のサリバン・クロムウェル（以下S&C）が最近、法廷で恥をさらす結果となった。

虚偽の判例引用が明るみに

S&Cは、破産再建部門の共同責任者アンドリュー・ディートリッヒ氏が、連邦判事マーティン・グレン宛てに謝罪文を送付した。同社が大規模な破産事件で提出した書類に、AIがでっち上げた虚偽の判例引用が多数含まれていたことが判明したためだ。

「このような事態が発生したことを深くお詫び申し上げます」とディートリッヒ氏は謝罪文に記した。

対抗法曹事務所が指摘

この不正確な引用は、対抗法曹事務所のボイス・シラー・フレクスナーがマンハッタンの連邦破産裁判所に提出した動議によって明るみに出た。S&Cの書類には、米国破産法の条文を誤って引用した箇所や、判例の要約・特定が不正確なケース、さらには実在しない判例まで引用されていることが判明した。

特に注目すべきは、S&Cが引用した判例の一つが、実際には存在しないケースであった点だ。ボイス・シラー・フレクスナーの弁護士らは、この事実を動議の中で指摘した。

厳格なAI利用ルールも無視された形に

S&Cは謝罪文の中で、AIツールの法的業務における利用に関する「厳格なトレーニング要件」や「ガードレール」を設けていたと主張したが、今回の書類作成時にはそれらのルールが守られていなかったと述べた。

「当事務所のAI利用に関するポリシーは明確かつ厳格なものです」とディートリッヒ氏は強調した。

また、同氏は「直ちに是正措置を講じた」と述べ、AIの幻覚が見過ごされた経緯を調査するレビューを開始したと明かした。その後、修正版の書類が裁判所に再提出された。

関与したAIモデルは不明

今回の失態に関与したAIモデルは公表されていないが、関係筋によると、S&CはオープンAIのChatGPTのエンタープライズライセンスを保持しているという。

法律事務所のAI利用ミスは後を絶たず

この一件は、法律事務所がAIツールの「幻覚」に悩まされている最近の事例の一つに過ぎない。AIは判例の誤った引用や、実在しない判例のでっち上げといった重大なエラーを引き起こす可能性があり、弁護士自身が見落とすケースが多い。

これまでにも、モーガン・ルイス・アンド・バッキウスなどの大手法律事務所が、AIのミスによって法廷で恥をさらす事態に直面してきた。

裁判官による厳しい対応も

裁判官らは、AIによる誤った引用を放置した弁護士に対し、制裁を科すなどの厳しい対応を取っている。例えば、コーゼン・オコナーの弁護士2人がAIの誤った引用を放置した際には、裁判官から「制裁を受けるか、法科大学院の学部長に自らの失敗を説明する手紙を書くか」を選択するよう命じられたケースもある。

AI利用のリスクと今後の対策

法律業務におけるAIの利用が広がる中、そのリスク管理がますます重要となっている。専門家らは、AIツールの出力を常に人間が検証する体制の構築や、厳格な利用ポリシーの策定を求めている。

今後、法律事務所や弁護士らは、AIの「幻覚」によるリスクを最小限に抑えるための対策を講じる必要があるだろう。

出典: Futurism
CATLが6.5分で10%→98%充電可能な新EVバッテリー「Shenxing 3」を発表、1,500km走行も実現
← 前へ

CATLが6.5分で10%→98%充電可能な新EVバッテリー「Shenxing 3」を発表、1,50...

 ボルチモア・レイブンズ、未指名選手と契約 ラーダリアス・ウェッブJr.が加入
次へ →

ボルチモア・レイブンズ、未指名選手と契約 ラーダリアス・ウェッブJr.が加...