AIでわいせつ画像を作成か、会社員を逮捕　ディープフェイク被害が深刻化

AIを利用して他人の顔写真をわいせつ画像に合成する「ディープフェイク」と呼ばれる手法を用い、不正に画像を作成したとして、警察当局が会社員の男を逮捕したことが明らかになりました。容疑の詳細は捜査中ですが、今回の逮捕はAI技術の急速な普及に伴い表面化した悪用事例の一端であり、各方面に大きな波紋を広げています。

今回の事件と並行して、卒業アルバムに掲載された顔写真がわいせつ画像の素材として無断で使用される実態も報告されています。かつては専門的な技術や高額なソフトウェアが必要だった画像合成が、近年では無料または低コストのAIツールで容易に実行できるようになっており、業界関係者の間では「誰でも作れる時代になってしまった」との懸念が高まっています。特に学校の卒業アルバムは、氏名と顔写真がセットで掲載されているため、悪用リスクが高いと指摘されています。

ディープフェイクをめぐる被害は国内外で急増しており、国際的な調査機関の推計によれば、2023年時点でオンライン上に流通するディープフェイク動画・画像の件数は数年前の10倍以上に達しているとみられます。被害者の多くは一般の女性であり、精神的苦痛や社会的評判への深刻なダメージを受けているケースが多数報告されています。

日本国内では、こうした被害に対応するための法整備も進んでいます。2024年に施行された改正不正競争防止法や、性的画像の無断公開を規制する「リベンジポルノ防止法」の適用範囲の検討が続いており、AI生成画像への対応が急務となっています。法執行機関もAI関連の犯罪捜査に専門部署を設けるなど、体制強化を図っています。

また、欧州連合（EU）では「EU AI規制法（AI Act）」が段階的に施行されており、AI生成コンテンツに対する透明性の確保や、悪用リスクの高いAIシステムへの規制強化が義務付けられています。日本でも同様の規制の必要性を指摘する声が専門家や議員の間で増えており、今後の制度設計が注目されています。

プラットフォーム事業者側でも対策が講じられており、主要なSNSや画像共有サービスではAI生成画像の検出技術の導入が進んでいます。ただし、検出精度は完全ではなく、技術的なイタチごっこが続いているのが現状です。教育機関や保護者向けには、卒業アルバムへの顔写真掲載の在り方を見直す動きも一部で始まっています。

今後は、AI技術の利便性を損なわずに悪用を防ぐための法的・技術的な枠組みの整備が急がれます。政府レベルでのガイドライン策定や、AIツールの開発事業者への規制強化、そして学校や企業における個人情報管理の見直しが三位一体で進むことが、被害の抑止に向けた現実的な道筋とみられます。今回の逮捕を機に、社会全体でディープフェイク問題に対する認識が高まることが期待されています。