オープンAI、次期モデルにサイバー攻撃能力の懸念で開発一部停止

米オープンAIが開発を進めている次期モデルについて、重大なサイバー攻撃能力を持つ恐れがあるとして、開発の一部を停止したと報じられました。同社の生成AIモデルは対話や画像生成だけでなく、コード生成能力も急速に向上しており、その延長線上でサイバー攻撃に転用可能な機能が確認されたとみられています。

報道ベースによると、問題視されているのは、脆弱性の発見やエクスプロイト（攻撃コード）の自動生成に関わる能力です。従来、こうした作業には専門知識を持つ攻撃者による手作業が必要でしたが、AIモデルの性能向上により、専門知識が乏しい利用者でも高度な攻撃を仕掛けられる可能性が指摘されているとみられます。

AIの安全性を巡る議論は、生成AIが急速に普及した2023年以降、繰り返し取り上げられてきました。特に大規模言語モデルは、悪用を防ぐための安全対策（ガードレール）が組み込まれているものの、性能が上がるほど対策をすり抜ける手法も巧妙化する傾向があるとされています。業界関係者の間では、モデルの能力向上と安全性確保のバランスをどう取るかが、開発競争の焦点になっているとの見方が広がっています。

オープンAIはこれまでも、モデルのリリース前に外部の専門家によるレッドチーム（攻撃者視点での検証）を実施し、危険な能力が確認された場合は機能制限や公開延期を行う方針を示してきました。今回の開発一部停止も、こうした安全性評価プロセスの一環である可能性が高いとみられます。ただ、具体的にどの機能が問題視され、どの程度の期間開発が止まるのかについては、現時点で詳細は明らかになっていません。

サイバーセキュリティ業界では、AIを悪用した攻撃の増加が既に懸念されており、フィッシングメールの自動生成や、マルウェアのコード改変にAIが使われる事例が過去にも報告されています。国内外の情報セキュリティ関係者からは、生成AIの能力向上が防御側だけでなく攻撃側の効率も高めてしまう「両刃の剣」としての性質を指摘する声が上がっています。

一方で、AI開発企業各社は国際的な安全基準の整備にも取り組んでおり、主要企業間でリスクの高い能力について情報共有や共同評価を行う枠組みづくりが進められているとされています。今回のオープンAIの対応も、こうした業界全体の安全性向上の流れに沿ったものだと受け止められる可能性があります。

今後は、オープンAIが安全対策を強化した上で次期モデルの開発をどのように再開するか、また他のAI開発企業が同様の懸念にどう対応するかが注目されます。AIの能力向上とリスク管理の両立は、生成AIが社会に浸透する上で避けられない課題であり、今回の一件は業界全体の安全基準づくりに影響を与える可能性があるとみられます。