AI 法律事務所 サリバン・クロムウェル 裁判所書類 AI幻覚 法律業務 倫理的AI

AIの「幻覚」が招いた重大なミス

ニューヨークを拠点とする名門法律事務所、サリバン・クロムウェル（S&C）が、AIツールを使用した裁判所提出書類に「幻覚」と呼ばれる虚偽の引用や事実誤認を複数含んでいたことが明らかになった。同社は、AIの安全かつ倫理的な導入を顧客に助言している立場であったにもかかわらず、自らも同様のミスを犯していたのだ。

「幻覚」とは何か

AIの「幻覚」とは、人工知能が実際には存在しない判例や法令、引用文献を捏造したり、正確でない情報を提示したりする現象を指す。法律業務においては、こうした誤りが重大な法的リスクを招く可能性がある。

サリバン・クロムウェルの謝罪文

同事務所の上級パートナー、アンディ・ディートリッヒ氏は、4月9日に提出された緊急動議にAIが生成した虚偽の引用が含まれていたことを認め、以下のような謝罪文を発表した。

「4月9日に提出されたJPL社の緊急動議には、不正確な引用やその他の誤りが含まれており、それらは本書の別紙Aに特定・修正されています。これらの不正確な引用や誤りには、AIによる『幻覚』が含まれています。『幻覚』とは、AIツールが実際には存在しない判例や法令、引用文献を捏造したり、正確でない情報を提示したりする現象を指します。当事務所は、このような事態が発生したことを深く遺憾に思います。」

社内のAI利用ポリシー違反が原因

ディートリッヒ氏によると、このミスは同事務所のAI利用に関する包括的なポリシーと研修要件に違反していたという。具体的には、以下の点が問題視された。

  • AIツールの利用に関する社内ポリシーが遵守されていなかった
  • 法的引用のレビュープロセスが機能しておらず、AIが生成した虚偽の引用を発見できなかった
  • 手動によるミスも含まれていた可能性がある

同事務所は、これらのポリシーが整備されているにもかかわらず、実際の運用で見過ごされていたことを認めている。

業界のAI活用に対する警鐘

この事例は、法律業界におけるAI活用のリスクを改めて浮き彫りにした。特に、名門法律事務所がAIの「幻覚」という落とし穴にはまったことは、業界全体に衝撃を与えている。

また、このミスを最初に指摘したのは、かつてAI活用に関するミスで批判を浴びたボイス・シラー・フレクスナーであった。同社は昨年、AIツールを使用した書類に虚偽の引用が含まれていたことを公表していたが、今回のサリバン・クロムウェルのミスを発見したことで、皮肉な立場に立たされている。

専門家の見解

法律専門家らは、この事例を受けて、法律業務におけるAI活用のリスク管理の重要性を改めて強調している。AIツールは業務効率を向上させる一方で、その「幻覚」のリスクを軽視してはならないと指摘する専門家も多い。

ある法律評論家は、「AIは強力なツールだが、その出力は常に人間の検証が必要だ。特に法律業務においては、誤った情報が重大な法的リスクを招く可能性がある」と述べている。

サリバン・クロムウェルの今後の対応

同事務所は、今回のミスを受けて、AI利用ポリシーの再徹底と研修の強化を発表した。また、今後はAIツールの利用に関する第三者機関による監査も検討しているという。

ディートリッヒ氏は、「当事務所は、AIの倫理的かつ安全な活用を顧客に助言している立場だが、自らの業務においても同様の基準を徹底する必要があった。今後は、この教訓を活かし、AI活用の透明性と信頼性を高めていく」とコメントしている。

出典: Reason
JVLがWebby賞を受賞！トランプJr.の2028年大統領選出馬とイラン情勢の行方
← 前へ

JVLがWebby賞を受賞！トランプJr.の2028年大統領選出馬とイラン情勢の行方

 メグン・ケリー、ジャケ・タッパーの「修正第一条」ハンカチに辛辣批判「空虚なパフォーマンス」
次へ →

メグン・ケリー、ジャケ・タッパーの「修正第一条」ハンカチに辛辣批判「空...