被災者写真をAIで加工か 偽画像がSNSで拡散、対策急務に

国内で発生した災害の被災者を写した写真が生成AI技術によって加工され、実際とは異なる状況を伝える偽画像としてSNS上で拡散していたことが、共同通信の報道で明らかになりました。加工された画像は被害の規模を誇張したり、逆に軽微に見せかけたりする内容が含まれているとみられ、閲覧者の混乱を招いているもようです。

報道によりますと、問題の画像は実際の被災現場の写真を基に、建物の損壊状況や浸水範囲などをAIで加工したものとみられています。オリジナルの画像と加工後の画像を比較すると細部に不自然な点があるものの、一見しただけでは判別が難しい水準に仕上げられているケースもあるとされます。SNS上では真偽が確認されないまま拡散が続いており、投稿の削除や訂正が追いついていない状況とみられます。

背景には、画像生成AIの技術が急速に高度化し、一般のスマートフォンアプリやウェブサービスからも誰でも手軽に写真を加工できるようになった状況があります。数年前まではAIによる画像加工には専門知識や高性能な機材が必要とされていましたが、現在は無料または低価格のツールで数秒から数十秒程度の処理により精巧な加工が可能になっているとされます。こうした技術の民主化が、悪意ある偽情報の拡散を容易にしている面があると業界関係者は指摘しています。

災害時の偽画像は過去にも問題となってきましたが、生成AIの普及によってその精度と拡散速度が格段に上がっているとの見方が広がっています。特に被災地の状況を伝える画像は、支援活動や義援金の呼びかけ、行政の対応判断などにも影響を与えかねないため、誤情報が及ぼす社会的影響は小さくないと専門家は懸念を示しています。

SNS各社はこれまでも偽情報対策としてファクトチェック機能の導入やAI生成コンテンツへのラベル表示などを進めてきましたが、今回のようなケースでは対応が後手に回っている面があるとみられます。国内でも生成AIコンテンツの表示義務化や、悪質な偽情報の拡散に対する法的措置の検討が求められる声が出ています。総務省や関連省庁でも情報の真偽を見極める仕組みづくりについて議論が続けられているとされます。

利用者側の対策としては、画像の出典を確認する、複数の情報源と照合する、公式発表を優先するといった基本的なメディアリテラシーの重要性が改めて指摘されています。教育現場や企業でもAI時代の情報リテラシー教育を強化する動きが広がりつつあるとされます。

今後は、AI生成画像を検出する技術の高度化と、プラットフォーム側の迅速な対応体制の構築が課題となりそうです。生成AI技術の発展は今後も続くとみられており、偽情報対策と技術革新のバランスをどう取るかが、社会全体で問われる局面が続くと考えられます。