オープンAI、次期モデルにサイバー攻撃悪用の懸念で開発を一部停止

米オープンAIが開発を進めていた次期大規模言語モデルについて、サイバー攻撃に悪用される重大な恐れがあるとして、一部機能の開発を停止したと報じられました。同社の内部評価で、モデルが持つコード生成能力や脆弱性発見能力が、悪意ある第三者によるマルウェア作成やシステム侵入の手助けに転用されかねないと判断されたとみられます。

オープンAIはこれまでも新モデルのリリース前に安全性評価を実施しており、社内では「フロンティアリスク」と呼ばれる基準に基づいて、生物兵器や化学兵器への転用リスクとともに、サイバー攻撃能力についても評価項目に加えてきたとされています。今回停止対象となったのは、自律的に脆弱性を探索し攻撃コードを生成する機能に関連する部分とみられ、開発全体が止まったわけではないと報じられています。

背景には、生成AIの能力向上に伴い、セキュリティ専門家でなくても高度なサイバー攻撃を実行できてしまう「攻撃の民主化」への懸念が業界全体で強まっていることがあります。国内外のセキュリティ関連団体からは、AIを悪用した攻撃件数が増加傾向にあるとの指摘も出ており、生成AIの安全性確保は各社共通の課題となっています。

オープンAIに限らず、主要AI開発企業では第三者機関による外部評価やレッドチーム演習を導入する動きが広がっています。モデルの公開前に攻撃的な用途を想定したテストを繰り返し、危険と判断された機能については提供範囲を制限したり、利用に高いハードルを設けたりする対応が一般的になりつつあります。

一方で、こうした安全対策の強化が開発競争において遅れにつながるとの見方もあります。AI業界では各社がしのぎを削ってモデルの性能向上を競っており、安全性検証に時間をかけることで他社に先を越されるリスクとのバランスが常に議論の的となっています。今回の開発一部停止についても、具体的な再開時期は明らかにされていません。

国内でも経済産業省や総務省がAIの安全な利用に関するガイドライン整備を進めており、サイバーセキュリティの観点からAI規制のあり方が今後さらに議論される可能性があります。今回のような開発企業自らによる自主的なリスク対応が、業界標準としてどこまで浸透していくか、今後の動向が注目されます。