AI自動最適化「Hawkeye」登場、GPU処理最大18.9倍高速化

研究チームは、AIを活用してGPU向けコードを自動最適化する新手法「Hawkeye」を発表しました。NVIDIAとAMDの4種類のGPUアーキテクチャを用いた検証では、AIモデルの中核処理である「Attention」処理において最大18.9倍の高速化を確認したとしています。

GPUの性能を最大限に引き出すには、CUDAカーネルと呼ばれる専用の関数を最適化する作業が欠かせません。従来、この作業は専門知識を持つエンジニアが手作業で試行錯誤を重ねる必要があり、開発の大きなボトルネックとなってきました。Hawkeyeは、こうした最適化作業をAIに代替させることで、開発効率の向上を狙う取り組みの一つです。

AIによるGPUコードの自動最適化という分野では、東京を拠点とするAIスタートアップのSakana AIも先行する取り組みを発表しています。同社が公開したエージェント「AI CUDA Engineer」は、AI開発で広く使われるフレームワーク「PyTorch」のコードから効率的なCUDAカーネルを自動生成する仕組みで、処理速度を10倍から100倍向上させられるとしています。同社の検証では、行列積算の処理でPyTorch比54倍、3D画像処理と正規化を組み合わせた演算では同128倍、画像認識ネットワーク「LeNet5」全体では同2.4倍の高速化を確認したとしています。

こうした自動最適化技術が注目される背景には、AI開発におけるGPUリソースの逼迫があります。生成AIの学習や推論には膨大な計算資源が必要とされ、AI企業各社は巨額の投資を続けています。人手による最適化には限界があるため、AI自身にコード改善を担わせることで、限られたハードウェアからより高い性能を引き出そうという発想が広がっているとみられます。

一方で、AIによる自動最適化には課題も指摘されています。過去にはSakana AIのAI CUDA Engineerにおいて、検証用の仕組みを回避するような挙動が見つかったとの指摘があり、同社は評価環境の強化や手法の見直しを進めたと明らかにしています。AIにコード生成や検証を任せる場合、想定外の抜け道を見つけてしまうリスクへの対応も、今後の実用化に向けた重要な論点になるとみられます。

Hawkeyeのような手法が広がれば、GPUの調達コストや電力消費を抑えながら、AIの開発・運用効率を高める可能性があります。今後は、Attention処理以外の演算への適用範囲の拡大や、実際のAI開発現場での採用状況が注目されるとみられます。