AI検索の誤情報が企業に影響、実在しない情報や勝手な閉店扱いも

AI検索エンジンが提供する「本物らしい誤情報」により、実在する企業が深刻な影響を受ける事例が相次いでいることが明らかになりました。存在しないサービスの情報が表示されたり、営業中の店舗が勝手に「閉店」扱いされるなど、AI技術の発達に伴う新たな課題が浮き彫りになっています。

問題となっているのは、大手テック企業が相次いで導入している生成AI機能を搭載した検索エンジンです。これらのシステムは、インターネット上の大量のデータを学習して自然な文章で回答を生成しますが、その過程で事実と異なる情報を「創作」してしまう現象が報告されています。業界関係者によると、特に企業の営業状況やサービス内容に関する誤情報の生成が目立っているとされます。

具体的な被害事例として、営業を続けている飲食店が「閉店済み」として表示されるケースや、実際には提供していないサービスが存在するかのように紹介される事例が確認されています。また、企業の基本情報である住所や電話番号が間違って表示される問題も発生しており、顧客からの問い合わせに支障をきたすケースが報告されています。

この問題の背景には、AI検索システムが学習データの中から情報を組み合わせて新しい「事実らしい」情報を生成する仕組みがあります。従来の検索エンジンが既存のWebページを検索結果として表示していたのに対し、AI検索では生成された文章が直接表示されるため、ユーザーがその情報を事実として受け取りやすい特徴があります。技術者らは、この「ハルシネーション」と呼ばれる現象への対策が急務だと指摘しています。

影響を受けた企業側の対応も課題となっています。従来のWeb検索であれば、間違った情報が掲載されているサイトの管理者に修正を依頼することができましたが、AI生成の情報の場合、修正を求める先や手続きが明確でないケースが多いとされます。一部の検索エンジン運営企業では、企業からの修正依頼を受け付ける窓口を設置していますが、対応の迅速性や効果については改善の余地があるとの指摘もあります。

テクノロジー業界では、この問題への技術的な解決策の開発が進んでいます。リアルタイムでの情報検証システムの導入や、信頼性の高い情報源を優先的に参照するアルゴリズムの改良などが検討されています。また、AI生成情報であることを明確に表示する仕組みや、情報の確実性レベルを示すインジケーターの導入なども議論されています。

専門家は、AI検索技術の普及に伴い、情報の真偽を判断する「デジタルリテラシー」の重要性も高まっていると指摘しています。企業側においても、自社に関するオンライン情報の定期的な監視や、正確な企業情報の積極的な発信がより重要になってくるとみられます。

今後、AI検索技術の精度向上と同時に、誤情報による被害を最小限に抑える仕組みの整備が課題となります。技術開発と並行して、法的枠組みの整備や業界標準の策定なども求められており、AI技術の健全な発展に向けた多角的な取り組みが期待されています。