オープンAI、次期モデルにサイバー攻撃能力の懸念　開発を一部停止

米オープンAIが開発を進めている次期の大規模言語モデルについて、重大なサイバー攻撃に悪用される恐れがあるとして、開発プロセスの一部を停止したと報じられました。同社内部の安全性評価チームが、モデルの能力がサイバー攻撃の自動化や脆弱性の発見・悪用支援に転用され得ると判断したことが背景にあるとみられます。

報道ベースでは、次期モデルは従来モデルと比べてコード解析能力や脆弱性検出能力が大幅に向上しているとされ、これが防御目的だけでなく攻撃目的にも高い精度で応用できる可能性が指摘されています。同社は生成AIの能力向上と安全性確保のバランスを取るため、リリース前の追加検証を行う方針とみられます。

AI企業各社は近年、モデルの性能向上とともに「二重用途（デュアルユース）」のリスクに対する懸念を強めています。特にサイバーセキュリティ分野では、AIが攻撃者側のツールとして利用されるケースが増加しているとの指摘が業界関係者から出ており、脆弱性のスキャンやエクスプロイトコードの生成を自動化する事例が報告されています。こうした流れの中で、オープンAIが自主的に開発を一部停止したことは、AI業界全体における安全性重視の姿勢を示す動きとして注目されています。

一方で、オープンAIは音声を通じてAIと対話できる専用デバイスの発売準備を進めているとの報道もあり、2027年の発売が見込まれているとされます。同社は言語モデルの安全性強化と並行して、対話型デバイスなど新たなハードウェア分野への展開も模索しており、事業の多角化を進めている状況です。

AI技術の急速な進化に伴い、各国の政策当局や国際機関でも安全性基準の整備に向けた議論が進んでいます。日本国内でも、日本学術会議と日本科学未来館が共同でAIと社会の関わりをテーマにしたイベントを開催するなど、AI技術の恩恵とリスクを社会全体で考える動きが広がっています。

今後、オープンAIが次期モデルの安全性評価をどのように進め、開発再開の判断を下すかが注目されます。サイバー攻撃能力に関するリスク評価は業界全体で共通の課題となっており、今回の対応が他のAI開発企業の安全性審査プロセスにも影響を与える可能性があるとみられます。