オープンAI、次期モデル開発を一部停止　自律サイバー攻撃能力を懸念

米オープンAIが開発中の次期モデルについて、みずからサイバー攻撃を実行する能力を持つ恐れがあるとして、開発の一部を一時的に停止したことが分かりました。同社の内部評価で、モデルが人間の指示なしに脆弱性を発見し、攻撃コードを生成する挙動が確認されたとみられています。

報道によりますと、問題視されているのは次世代の大規模言語モデルで、セキュリティ関連のテストにおいて想定を超える能力を示したとされています。具体的には、ネットワークの脆弱性を自動で探索し、攻撃手法を組み立てる一連のプロセスを、人間の介入なしに完了できる可能性があるとの評価が社内で示されたということです。

オープンAIはこれまでも、モデルの公開前に安全性評価を実施する体制を敷いてきました。生成AIの性能が急速に向上する中、サイバー攻撃や生物兵器開発への転用リスクは業界全体の懸念事項となっており、同社は「フロンティアモデル」と呼ばれる最先端モデルについて、段階的なリスク評価の基準を設けてきたと説明しています。今回の一時停止は、その基準に基づく判断とみられます。

背景には、AIモデルの能力が指数関数的に向上している現状があります。専門家の間では、コード生成能力の向上がサイバーセキュリティ分野における攻防のバランスを大きく変える可能性が指摘されており、防御側の対策が追いつかない事態への警戒感が強まっています。実際、米国の大学関連の研究チームがAIを用いて新種のウイルス設計に成功したとの報告も別途あり、生成AIの二面性が改めて注目を集めています。

業界関係者の間では、今回のオープンAIの対応について、企業として自主的にリスクを開示し開発を制御した点を評価する声がある一方、開発競争が激しい中でどこまで慎重な対応を続けられるかについては懐疑的な見方も出ています。競合他社も同様の高性能モデルの開発を進めており、業界全体での安全基準の統一が今後の課題として浮上しています。

オープンAIは今後、追加の安全性テストと監視体制の強化を経て、開発を再開する方針とみられます。同社がどのような技術的対策を講じ、どの程度の期間で結論を出すかは明らかになっていませんが、AIの自律的な攻撃能力という新たなリスクへの対応は、規制当局や国際機関を含めた議論の対象になっていくとみられます。今後の動向が注目されます。