オープンAI次期モデル、サイバー攻撃悪用の恐れで開発一部停止と報道

オープンAIが開発を進めている次期の大規模言語モデルについて、悪用された場合に重大なサイバー攻撃能力を持つ恐れがあるとして、一部の開発プロセスを停止したと報じられました。2026年8月9日までの報道によると、同社内部の安全性評価チームが、モデルの持つコード生成能力やシステム侵入手法の推論能力について、従来モデルを大きく上回る水準に達していると判断したとみられています。

生成AIをめぐっては、これまでもマルウェア作成やフィッシング詐欺文面の自動生成といった悪用リスクが指摘されてきましたが、今回問題視されているのは、未知の脆弱性を発見し攻撃コードを組み立てる能力が、専門的なセキュリティ人材に匹敵する水準に達しつつある点だとされています。業界関係者の間では、こうした能力が国家間のサイバー攻撃や重要インフラへの攻撃に転用された場合の影響を懸念する声が上がっています。

オープンAIはこれまでも、新モデルのリリース前に「危険性評価フレームワーク」と呼ばれる独自の安全基準に基づき、生物兵器転用リスクや自律的な自己複製能力などを段階的にチェックしてきたとされています。今回のケースでは、サイバー攻撃領域の評価スコアが社内基準の上限に近づいたため、一部機能の制限や追加の安全対策が検討されているもようです。開発の完全停止ではなく、リリース時期の見直しや出力制限の強化にとどまる可能性もあると報じられています。

背景には、AI開発企業各社が急速な性能競争を続ける一方で、安全性検証の体制整備が追いついていないという構造的な課題があります。国内外の研究機関からは、AIの推論能力向上に伴い、セキュリティ分野での「攻守のバランス」が変化しつつあるとの指摘も出ています。実際、AIを用いた脆弱性診断ツールはすでに防御側でも実用化が進んでおり、同じ技術が攻撃側に流用される可能性は以前から議論の対象となってきました。

日本国内でも、経済産業省や情報処理推進機構（IPA）がAIの安全性に関するガイドライン整備を進めており、今回の報道はこうした議論に一定の影響を与える可能性があります。企業がAIを業務システムに組み込む動きが加速する中、生成AIそのものが攻撃ベクトルとなり得るリスクへの関心は、今後さらに高まるとみられます。

今後については、オープンAIが安全性評価の詳細な結果や対応策を公式に発表するかどうかが焦点となりそうです。次期モデルの提供時期が当初計画から後ろ倒しになる可能性も指摘されており、AI業界全体として、性能向上と安全性確保をどう両立させるかが引き続き大きな課題となりそうです。