AIが人手介さず攻撃実行、グーグルが初確認と発表
米グーグルは、AIが人間の操作なしにソフトウェアの弱点を発見し攻撃を実行した事例を初めて確認したと発表しました。現時点では痕跡が残りやすく発見は容易としていますが、今後の巧妙化への警戒を呼びかけています。
米グーグルは11月16日、AI(人工知能)が人間の手を借りずにソフトウェアの弱点を発見し、外部へのサイバー攻撃を実行した事例を初めて確認したと発表しました。発表はグーグルの専門チームがまとめた報告書によるもので、サイバー攻撃の自動化が現実のものとなったことを裏付ける結果として注目されています。
報告書によると、専門チームは攻撃者が使用していたサーバーを調査し、AIによって一連のサイバー攻撃が自動化されていた痕跡を確認しました。サーバーには被害者から盗まれたとみられるデータが残っており、フランスのメディア関連サイトや教育関連のウェブサイトが標的になっていたとみられています。
具体的な手口としては、外部のソフトウェアが更新される際に修正された部分に新たに生じる弱点をAI自身が探し出し、その弱点を突くための攻撃プログラムまで自動で作成していたということです。人間が操作を加えることなく、弱点の発見からプログラム作成、攻撃の実行までの一連の流れが進んでいた点が特徴です。
報告書では攻撃者の具体的な特定には至っていませんが、設定ファイルにはロシア語の書き込みが残されていたことが明らかにされています。グーグルは、現時点ではAIによる自動攻撃は痕跡が残りやすく、発見は比較的容易だと分析しています。一方で、AIの性能が向上するにつれて攻撃手法が巧妙化し、将来的には発見が難しくなる恐れがあるとも警告しています。
報告書ではこのほか、攻撃者が企業のアカウントを乗っ取り、その企業の費用負担で高性能なAIを無断で使用する被害が相次いでいることも指摘されています。中には企業への請求額が1日で10万ドル(約1600万円)を超えた例もあったということです。こうした乗っ取りアカウントでAIを利用する権利は、中国語やロシア語の闇市場で売買されているとされています。
企業にとっては、攻撃の自動化によって弱点が発見されてから実際の攻撃につながるまでの時間が従来より短くなる恐れがあり、対策を講じる猶予が狭まることが懸念されています。現時点では痕跡が残りやすいとされているものの、発見できることと被害を未然に防げることは別問題であり、今後の対応が課題となりそうです。
今後は、AIによる自動攻撃の巧妙化にどう対抗するかが企業のセキュリティー対策における重要なテーマとなっていくとみられます。グーグルをはじめとする各社の動向や、AIを悪用した攻撃への防御技術の進展が注目されます。



