元記事公開：
南アフリカで策定が進められていたAI関連の政策ドラフトに、大規模言語モデル（LLM）が生成した架空の情報源が複数含まれていたことが明らかになった。現地の調査報道機関グラウンドアップ（GroundUp）の検証によって判明したもので、実在しない出典や虚偽の参考資料が政策文書に混入していたという。
大規模言語モデルは、学習データをもとに確率的にテキストを生成する仕組みであり、技術的には事実と虚構を区別する機能を持たない。そのため、一見もっともらしい文献名や統計データであっても、実際には存在しない情報が出力される場合がある。今回のケースでは、こうした構造的な限界が政策文書にそのまま反映された形となった。
さらに問題視されているのは、この政策案が市民や専門家による十分な公開検証を経ないまま進められていた点である。政府がAIツールを活用して政策文書を作成すること自体は効率化の観点から理解できるものの、生成された内容に対する信頼性の確認プロセスが欠落していたことは、政策立案の根幹に関わる課題といえる。
AIの導入が世界各国で加速するなか、今回の事例は、技術活用と検証体制の整備を両立させることの重要性をあらためて示している。公開の場での監視や人的な事実確認の仕組みを政策形成プロセスに組み込むことが、透明性と説明責任を担保するうえで不可欠であると指摘されている。
