HuggingFaceにAI主導のサイバー攻撃、防御もAIで対抗――商用モデル拒否で「GLM」採用の背景

機械学習モデルの公開・共有プラットフォームとして世界的に知られる「Hugging Face」が、AIを活用した高度なサイバー攻撃を受けていたことが2026年7月に入り報じられた。攻撃者側がAIを用いて攻撃を自動化・高度化する一方、防御側もAIを駆使してリアルタイムで対抗するという、いわば「AI対AI」の構図が浮き彫りになった事案として、セキュリティ業界で注目を集めている。

今回の攻撃で特に注目されたのは、防御側が主要な商用AIモデルに攻撃コードの解析を依頼したところ、倫理的ガイドラインに基づく制限によって解析が拒否されたという点だ。商用モデルは悪意あるコードや脆弱性に関わるリクエストに対して応答しない設計が施されていることが多く、こうした制約が実際のセキュリティ対応の現場で障壁になることが改めて示された形となった。

この問題を受けて防御チームが採用したのが、中国の清華大学が中心となって開発したオープンソースの大規模言語モデル「GLM（General Language Model）」だ。GLMはオープンソースとして公開されており、商用モデルと比べて制約のカスタマイズが容易とされている。セキュリティ用途に特化した設定を施すことで、攻撃コードの解析や脅威インテリジェンスの生成に活用できたとみられる。

Hugging Face自体は、世界中の研究者や開発者が50万件以上（報道ベース）ものAIモデルやデータセットを公開・共有するプラットフォームであり、その規模と影響力ゆえに攻撃者の標的になりやすい環境にある。過去にも認証情報の漏洩やモデルへの不正アクセスといったセキュリティインシデントが報告されており、AIエコシステム全体のセキュリティ強化が業界課題として認識されている。

今回の事案は、AIセキュリティにおける「商用モデルの倫理制約」と「実務上のニーズ」の間にあるジレンマを鮮明にした。商用モデルが安全性のために設けている制限は利用者保護の観点から重要である一方、正当な防御目的での活用を妨げるケースも生じうる。この課題に対し、専門家の間では「セキュリティリサーチャー向けの認証済みアクセス制度」や「ホワイトリスト型のモデル利用枠組み」の必要性が議論されている。

オープンソースモデルの活用については、柔軟性という強みがある一方で、攻撃者側も同様に制約なく利用できるという二面性も指摘されている。GLMのような高性能なオープンソースモデルが普及するにつれ、防御・攻撃の双方でAI活用が加速するという「軍拡競争」的な構造が、サイバーセキュリティ分野でより鮮明になるとみられる。

今後の展望として、AIプラットフォームのセキュリティ対策はより高度化・専門化が求められる局面に入ったといえる。商用モデルとオープンソースモデルの使い分け、セキュリティ目的に特化したAIモデルの開発、さらにはAI同士が攻防を繰り広げる環境を前提とした新たなセキュリティフレームワークの整備が、業界全体で急務とみられる。Hugging Faceの事案は、AI時代のインフラ防衛がいかに複雑かを示す象徴的な出来事として記憶されることになりそうだ。