オープンAI、次期モデルにサイバー攻撃悪用の懸念で開発一部停止と報道

米オープンAIが開発を進めている次期大規模言語モデルについて、サイバー攻撃に悪用され得る重大な能力を持つ可能性があるとして、開発プロセスの一部が停止されたと報じられました。2026年8月9日までの報道ベースでは、同社内の安全性評価チームが、モデルの持つコード生成・脆弱性発見能力が想定を超える水準に達したと判断したとみられています。

生成AIの進化は自然言語処理や画像生成といった分野だけでなく、ソフトウェア開発の領域でも急速に進んでいます。特にコード生成AIは、プログラムの脆弱性を自動的に検出し、修正案を提示する能力を持つケースが増えており、この技術がセキュリティ強化に役立つ一方で、悪意ある攻撃者に利用された場合には深刻なリスクをもたらすという「両刃の剣」の性質が業界関係者の間で以前から指摘されていました。

報道によれば、今回問題視されたのは、次期モデルが既知の脆弱性情報を組み合わせて新たな攻撃手法を自動生成する能力を持つ可能性がある点だとみられています。従来のAIモデルは既存の攻撃パターンを検出・説明する能力に留まっていましたが、次期モデルではこれを一歩進め、実際に機能する攻撃コードを生成する能力を示した可能性があると報じられています。オープンAIはこの点について、外部の安全性研究機関と連携しながら追加検証を進めているとみられます。

AI企業各社は近年、モデルのリリース前に「レッドチーム」と呼ばれる専門チームによる安全性検証を実施することが一般的になっています。バイオセキュリティやサイバーセキュリティの観点から、モデルが持つ潜在的な悪用リスクを事前に評価し、必要に応じて機能制限やガードレールを設ける取り組みが業界標準として広がりつつあります。今回の開発一部停止も、こうした安全性重視の流れの中で行われた対応の一環とみられています。

一方で、AI開発競争が激化する中、安全性検証にどれだけの時間とリソースを割くべきかについては、業界内でも意見が分かれています。競合他社が同種の高性能モデルの開発を進めているとされる状況下で、慎重な検証プロセスが技術的優位性の遅れにつながるのではないかという懸念も一部の業界関係者から示されています。

今後は、オープンAIが次期モデルの安全性評価をどのように完了させ、どの段階でリリースに踏み切るかが注目されます。また今回の事案は、AI開発における国際的な安全基準やガバナンス体制の整備に向けた議論を加速させる可能性があります。各国の政策当局やAI研究機関が、サイバーセキュリティの観点からAIモデルの評価基準をどのように策定していくか、今後の動向が注視されます。