元記事公開：
米国の大手法律事務所が、人工知能（AI）を用いて作成した法廷提出書類に多数の誤りが含まれていたことを公表しました。原因は、AIが事実に基づかない情報を生成する「幻覚（hallucination）」と呼ばれる現象です。
同事務所が公開したエラーの一覧によると、誤りは3ページにわたり、合計で約36件に上りました。法的文書においては一つの事実誤認が判決や当事者の権利に重大な影響を及ぼしかねないため、この件数は看過できない規模といえます。
生成AIは近年、契約書のレビューや判例調査など法律業務の効率化を目的として急速に導入が進んでいます。しかし今回の事例は、AIの出力をそのまま信頼することのリスクを具体的に示すものとなりました。とりわけ法廷提出書類のように正確性が厳しく求められる文書では、人間による十分な検証・確認の工程が不可欠であることが改めて浮き彫りになっています。
同事務所がエラーを自ら公表した点については、法律業界におけるAI活用の透明性を高める動きとして注目されます。AIの利便性を享受しつつも、その限界を正しく認識し、適切な運用体制を整えることが今後ますます重要になると考えられます。
