ディープフェイクでわいせつ画像を作成か　会社員を逮捕　AI悪用に歯止めかからず

AI技術を悪用してディープフェイクのわいせつ画像を作成・所持・拡散したとして、警察当局は会社員の男を逮捕したと発表しました。逮捕容疑は性的姿態等撮影罪および不正競争防止法違反などとみられており、捜査は現在も継続しています。同種の事案は全国各地で相次いで摘発されており、2026年に入ってからの関連逮捕件数は上半期だけで前年同期比で大幅に増加しているとされています。

特に深刻視されているのが、卒業アルバムに掲載された顔写真がAIによる画像生成ツールに読み込まれ、わいせつ画像に合成されるケースです。近年の画像生成AIは、1枚の顔写真からでも精度の高い合成画像を短時間で生成できる水準に達しており、専門的な技術知識がなくても悪用できる環境が整ってしまっているとの指摘が業界関係者の間では以前からありました。被害者は学校の卒業生にとどまらず、SNSに顔写真を投稿したことのある一般市民にまで広がりつつあるとみられています。

こうした被害を生み出す背景には、画像生成AIの急速な普及があります。2023年ごろから一般向けのAI画像生成サービスが爆発的に増加し、現在では無償または低コストで利用できるツールが数十種類以上存在するとみられています。一部のサービスは倫理規定によってわいせつコンテンツの生成を制限していますが、規制を回避する手段が次々と共有されており、実効性には限界があると専門家は指摘しています。

法整備の面では、日本では2023年の「性的姿態等撮影罪」の新設により、実在しない合成画像であっても特定個人を対象にした場合は処罰対象となり得る法的根拠が整備されました。しかし、匿名での投稿や海外サーバーを経由した拡散への対処は依然として難しく、捜査当局にとって大きな課題となっています。また、被害に気づいた時点ですでに画像がインターネット上に広く拡散しているケースも多く、被害回復の困難さも問題視されています。

国際的な動きとしては、EUが2026年8月より施行を本格化させているAI規制法（AI Act）において、AIが生成したコンテンツへの透明性確保を義務付けています。合成コンテンツには「AIが生成したものである」旨の明示を義務化する方向で規制が進んでおり、日本政府もこうした国際動向を参考に対応策の検討を進めているとされています。

被害防止の観点からは、学校や企業が卒業アルバムや社内名簿の取り扱いルールを見直す動きが広がっています。顔写真のデジタルデータを配布する際に高解像度版を避けるよう求めたり、クラウド上への保存を禁止するガイドラインを設けたりする教育機関も出始めているとのことです。しかし、すでにSNSなどを通じてインターネット上に流通している顔写真を完全に管理することは現実的には難しく、根本的な解決策としては不十分との見方もあります。

今後は、AI生成コンテンツの検出技術（AI検知ツール）の精度向上と普及が鍵を握ると考えられています。プラットフォーム事業者によるアップロード時の自動検知・削除の仕組みづくりや、被害者が迅速に削除申請できる制度の整備が急務と見られており、政府・民間双方での対応強化が引き続き求められる状況です。AI技術の恩恵と悪用リスクのバランスをいかに取るかは、今後の社会全体で議論が深まるテーマになるとみられています。