EU、ディープフェイクポルノ生成AI禁止へ「AI法」修正案

欧州連合（EU）は、2024年に施行された「AI法（AI Act）」の修正案を検討しており、ディープフェイクポルノを生成する人工知能（AI）技術の禁止を明確に盛り込む方針を固めたことが分かりました。関係者によると、この修正案は今年後半にも欧州議会で審議される見通しです。

現行のAI法では、AIシステムをリスクレベルに応じて4段階に分類し、高リスクAIには厳格な規制を課していますが、ディープフェイクポルノに特化した明確な禁止条項は含まれていませんでした。業界関係者によると、技術の急速な進歩により、個人の同意なく性的な画像や動画を生成する事例が急増していることが修正の背景にあるとみられます。

欧州委員会の調査データによると、2023年以降、ディープフェイク技術を悪用した被害報告は前年比で約3倍に増加したと推計されています。特に女性や未成年者を標的とした悪質な事例が多数報告されており、デジタル権利保護団体からは早急な法整備を求める声が高まっていました。

修正案では、ディープフェイクポルノの生成、配布、所持を全面的に禁止し、違反企業には全世界売上高の最大7％または3500万ユーロのいずれか高い方の制裁金を科すことが検討されています。また、AI開発企業に対しては、自社技術が悪用されないよう事前の安全対策実装を義務付ける条項も盛り込まれる予定です。

この動きは、AI技術の発展と個人の尊厳保護のバランスを重視するEUの姿勢を示しています。専門家は、この修正案が承認されれば、AI開発における世界的な規制基準となる可能性が高いと分析しており、米国や日本などの他の主要国でも類似の規制導入が加速する見通しです。今後数か月間の欧州議会での審議動向が、グローバルなAI規制の方向性を左右する重要な要素となりそうです。