次期AIモデルにサイバー攻撃悪用の恐れ　オープンAIが開発一部停止

米オープンAIが開発を進めている次期大規模言語モデルについて、サイバー攻撃に悪用されかねない重大な能力を持つ可能性があるとして、一部の開発プロセスを停止したと報じられました。同社はこれまでも先端モデルのリリース前にリスク評価を実施していますが、今回は攻撃的なサイバー能力に関する懸念が特に強く、開発チームが対応を検討している状況とみられます。

報道によると、問題視されているのは、モデルが自律的に脆弱性を発見したり、悪意あるコードを生成したりする能力が従来のモデルより大幅に向上している点です。これまでAIによるコード生成支援は開発者の効率化に大きく貢献してきましたが、同じ技術が攻撃側にも転用可能である点が業界内で以前から指摘されてきました。今回のケースは、その懸念が具体的なリリース判断に影響を与えた初期の事例として注目されています。

オープンAIは過去にも、モデルの公開前に「フロンティアモデル」向けの安全性評価枠組みを設け、生物・化学兵器や自律的な自己複製能力などと並んで、サイバー攻撃領域を重点的にチェック対象としてきました。今回の一部停止は、この枠組みに基づく判断とみられ、社内の安全性チームが最終的な公開時期やモデルの機能制限について検討を続けているとされています。

AI業界全体では、モデルの性能向上と安全性確保のバランスが大きな課題となっています。米国では複数のAI開発企業が自主的な安全基準を設けていますが、法的な規制はまだ発展途上にあります。今回の事例は、企業の自主規制がどこまで実効性を持つかという議論にも一定の影響を与えるとみられます。専門家の間では、サイバー攻撃能力に特化したリスク評価の標準化が今後急務になるとの指摘も出ています。

この報道は、同じく本日話題となっている米大学発表のAIウイルス設計に関するニュースとも関連が深いとみられます。生成AIが従来は高度な専門知識を要した攻撃手法の設計や実装を、一定程度自動化できる可能性が示されつつあり、セキュリティ業界では防御側の対応力強化が急がれています。企業のセキュリティ部門や政府機関でも、AIを悪用した攻撃シナリオへの備えを見直す動きが広がりつつあります。

オープンAIは今後、リスク評価の結果を踏まえて、モデルの機能を一部制限した形での公開や、追加的な安全対策を講じた上でのリリースを検討するとみられます。業界関係者の間では、AIの能力が急速に高度化する中で、開発企業自身がどこまで慎重にリスクを管理できるかが、今後のAI社会実装における信頼性を左右する重要な論点になるとの見方が強まっています。