元記事公開：
米メディアAxiosの報道によると、ホワイトハウスが大規模言語モデル開発企業Anthropic（アンスロピック）のリスク評価機能を回避するためのガイダンスを起草していることが明らかになった。
Anthropicは対話型AI「Claude」の開発元として知られ、有害な出力を防ぐためのセーフティチェック機能をモデルに組み込んできた。今回報じられたガイダンスは、新たなAIモデルの開発・導入にあたり、こうした安全性機能を迂回する手順を示すものとみられている。
背景には、米政府がAI技術の迅速な開発と実用化を重視する姿勢があると指摘されている。国家安全保障や産業競争力の観点から、AI開発のスピードを優先したい政府側の意向が反映されている可能性がある。
一方で、AI安全性の研究と実装に注力してきたAnthropicをはじめとする民間企業との間で、リスク管理に対する考え方の隔たりが浮き彫りになった形だ。AIの安全性を確保しながらイノベーションを推進するという課題は、米国に限らず国際的にも議論が続いている重要なテーマである。
今後、このガイダンスが正式に策定・公開された場合、米国のAI規制政策や技術開発戦略に大きな影響を与える可能性がある。AI業界や安全性研究の関係者からの反応にも注目が集まっている。
