元記事公開：
米国ジョージア州で、ある殺人事件の手続きにおいて、検察側の担当者が生成AIによる出力をそのまま法廷文書に取り込み、その内容に誤りが含まれていたことが問題視された。報道によれば、当該検察官はこの件で懲戒の対象となったという。
生成AIは、もっともらしい文体で事実関係や判例を出力する一方、存在しない判例や架空の引用を作り出す「ハルシネーション」と呼ばれる現象が知られている。司法分野では、提出書類における事実関係の誤りや判例の捏造は、当事者の権利や手続きの公正に直接影響しかねない。
米国ではすでに民事訴訟を中心に、弁護士が生成AIの作成した架空の判例を提出し制裁を受けた事例が複数報告されているが、刑事手続き、とりわけ殺人事件のような重大事件で検察側の関与者が処分対象となったことは、AIの法務利用をめぐる議論をさらに加速させる可能性がある。
編集部としては、生成AIの活用が広がる中で、出力内容の検証責任が利用者側にあるという原則が改めて問われる事案だと受け止めている。司法の信頼性を維持するためには、AI利用に関する明確なガイドラインと、提出前の人手によるファクトチェック体制の整備が不可欠となろう。今後、各州や弁護士会による規律のあり方が注目される。
