元記事公開：
概要
南アフリカ政府が策定したAI（人工知能）に関する政策文書について、文中で引用されていた情報源の一部がAIによって生成された架空のものであったことが明らかになり、同政府は当該文書の撤回を決定した。
経緯
南アフリカでは国家としてのAI活用方針を定めるため、政策文書の整備が進められていた。しかし、公表後に外部の研究者や専門家から、文書内に記載された参考文献の一部が実在しないとの指摘が相次いだ。調査の結果、これらの出典はAIツールによって生成されたいわゆる「ハルシネーション（幻覚）」であったことが確認された。
政府は信頼性の観点から文書全体の撤回を決め、内容の精査と再作成を行う方針を示している。
背景と影響
生成AIは文章作成の効率化に大きく貢献する一方、もっともらしい架空の情報を出力する問題が繰り返し指摘されてきた。学術論文や法律文書においても同様の事例が世界各地で報告されており、AI出力に対する人間による検証の重要性があらためて浮き彫りとなっている。
今回の件は、AI政策そのものがAIの欠陥によって信頼を損なうという皮肉な結果となった。各国がAI規制や活用指針の策定を急ぐなか、政策立案の過程における品質管理のあり方について、国際的な議論が一層深まることが見込まれる。
編集部では、今後の南アフリカ政府による修正版の公表や、他国の政策策定プロセスへの波及についても注視していく。
