卒業アルバムの顔写真がわいせつ画像に　AI普及で被害が深刻化

生成AIの技術が急速に進化・普及する中、卒業アルバムや学校行事の写真に掲載された未成年者の顔写真を悪用し、わいせつ画像を生成するという深刻な問題が広がっています。専門家や捜査当局によると、高度な画像生成AIツールが無料または低コストで入手できるようになったことで、技術的な知識をほとんど持たない一般人でも容易にこうした画像を作成できる環境が整ってしまっているとみられます。

問題の背景には、「ディープフェイク」技術の民主化があります。数年前までは高性能なGPUと専門的なプログラミング知識が必要だったフェイク画像の生成が、現在では対話型のAIインターフェースを通じて数分以内に完了できるまでになっています。国内外の複数のサイバーセキュリティ機関の報告によると、こうしたわいせつ目的のディープフェイク被害は2023年以降、世界的に急増しており、被害者の多くが未成年であることが確認されているとされています。

日本国内においても、警察当局が関連する事案の摘発件数が増加傾向にあることを認めており、実際に被害を受けながらも相談に至らないケースが多数存在するとみられています。被害者の多くは被害に気づいた際にはすでに画像がオンライン上に拡散しており、完全な削除が困難な状況に陥るケースが報告されています。学校現場では、保護者や生徒から「卒業アルバムに顔写真を掲載することへの不安」が寄せられるようになっているとも伝えられています。

法的な側面では、2023年に施行された改正不正競争防止法や、性的姿態等撮影罪を新設した関連法により、こうした画像の生成・配布に対する規制は強化されてきています。しかし、AIによる画像生成という新たな手法に対し、法的な解釈や捜査手法の整備が追いついていない部分があることも業界関係者の間では指摘されています。また、海外サーバーを経由した生成・配布行為については、国際的な連携が不可欠であり、その対応には時間を要するとみられています。

プラットフォーム側の対応も急務となっています。主要なSNS事業者や画像共有サービスは、AIが生成したわいせつ画像の自動検知・削除システムの強化を進めていますが、生成AIの技術更新スピードに対して検知技術が後手に回っているとの指摘が絶えません。一部の画像生成AIサービス提供事業者は、未成年者と思われる人物の顔を含む画像の生成に制限を設けていますが、その抜け道となる手法が次々と発見・共有されているのが実情です。

教育現場や家庭における対策としては、子どもが自分の写真をオンラインに公開する際のリスク教育が重要とされています。また、卒業アルバムのデジタル化に際して顔写真の取り扱いルールを見直す動きも一部の学校で始まっているとされています。被害を受けた場合の相談窓口として、警察庁のサイバー犯罪相談窓口や、一般社団法人セーファーインターネット協会（SIA）が運営する「違法・有害情報相談センター」などが機能しています。

今後の展望として、政府・与党は生成AIの悪用規制を念頭に置いたAI関連法制の整備を進めており、2026年内にも具体的な指針が示される可能性があるとみられています。技術的な対抗手段としては、本物の写真に透かし情報（ウォーターマーク）を埋め込み、AIによる悪用を困難にする技術の実用化も研究段階にあります。しかし、技術と規制の双方が揃わなければ根本的な解決には至らないとの見方が支配的であり、社会全体での取り組みが求められる問題として、今後も継続的な議論が必要な状況です。