欧州連合（EU）は5月7日、人工知能（AI）規制法の修正案について暫定合意に達したと発表しました。この修正案では、AIを用いた性的な偽画像（ディープフェイクポルノ）の生成を今年12月から全面的に禁止することが盛り込まれています。
今回の修正案は、2024年に施行されたEU AI法をより実効性のあるものにするための追加措置として位置づけられています。特に、生成AIの急速な普及により深刻化している非同意のポルノ画像生成問題に対して、具体的な禁止措置と罰則を設けることが主な目的です。
修正案によると、個人の同意なしにAI技術を使って性的な画像や動画を生成することは、12月1日以降、EU域内で完全に違法行為となります。違反した場合の罰則は、個人に対しては最大10万ユーロ（約1600万円）、企業に対しては全世界売上高の最大4％または2000万ユーロのいずれか高い方の制裁金が科される予定です。
近年、生成AI技術の発達により、個人の顔写真から精巧な偽画像を作成することが技術的に容易になっています。専門家の分析によると、2023年にインターネット上で確認されたディープフェイク動画のうち、約96％が非同意の性的コンテンツだったとの推計データもあります。
この問題は特に女性や未成年者への被害が深刻で、精神的苦痛や社会的信用の失墜といった深刻な影響を与えています。EU域内では、すでにドイツ、フランス、オランダなど複数の加盟国が独自に規制措置を導入していましたが、今回の修正により統一的な規制枠組みが構築されることになります。
AI開発企業に対しては、自社の生成AIシステムに不正利用を防ぐためのセーフガード機能の実装が義務づけられます。具体的には、性的コンテンツの生成要求を自動的に検知・拒否する仕組みや、生成された画像にデジタル透かしを埋め込む技術の導入などが求められる見込みです。
業界関係者からは、技術的な実装の複雑さや表現の自由との兼ね合いについて懸念の声も上がっていますが、被害者保護の観点から規制強化の必要性についてはおおむね理解が示されています。
今後、この修正案は欧州議会での正式採決を経て成立する予定です。EUの規制は国際的にも大きな影響力を持つため、米国や日本などでも同様の規制導入に向けた議論が活発化することが予想されます。AI技術の健全な発展と個人の権利保護の両立に向けた取り組みが、世界的に加速していくとみられます。
