米国の法律事務所のウェブサイトで、「数千万ドル規模の和解金(1,100万ドル)」の判決が掲載されているのが発見された。しかし、そのウェブサイトには、同じページや別ページに同様の規模の判決が複数記載されており、一貫性に欠ける内容となっている。

このミスは、単なる偶然のミスではなく、AIが生成した誤情報の可能性が指摘されている。実際、同弁護士は最近、AIが生成した虚偽の情報を含む書類を提出したとして、懲戒処分を受けていた。

このような事例は、AI技術の利用が拡大する中で、そのリスクを改めて浮き彫りにしている。

出典: Reason