元記事公開：
フランスの検察当局は2026年4月21日、テック企業家イーロン・マスク（Elon Musk）氏に対し、同氏が経営するソーシャルメディアプラットフォーム「X」上で生成AI機能「Grok」を通じて性的なディープフェイク画像が大規模に拡散された疑いについて、任意での聴取を求める召喚状を送付しました。
今回の召喚状は、Grokによって生成された性的ディープフェイクが数百万件規模に達しているとの指摘を受けたものとみられます。ディープフェイク技術は、実在する人物の画像をAIで改ざんし、本人の同意なく性的なコンテンツへ加工するもので、とりわけ女性が被害に遭うケースが世界各地で深刻な問題となっています。
マスク氏がこの任意聴取に応じるかどうかは、現時点では明らかになっていません。
フランスを含む欧州連合（EU）は近年、生成AI技術に対する規制を段階的に強化しており、2024年に成立したEU AI規則（AI Act）ではディープフェイクの開示義務が盛り込まれました。また、デジタルサービス法（DSA）に基づき、大規模プラットフォーム事業者には違法コンテンツへの迅速な対処が義務づけられています。今回の召喚は、こうした規制強化の流れのなかで実施されたものと位置づけられます。
編集部では、AI生成コンテンツをめぐる法的・倫理的な議論の進展を引き続き注視してまいります。
