Skymizer、700BパラメータのLLMを240Wで推論可能なAIアクセラレータを発表

台湾のAI半導体企業Skymizerは7日、700億パラメータの大規模言語モデル（LLM）を約240Wの低消費電力で推論できる新型AIアクセラレータの開発を発表しました。この技術により、従来のGPUベースのシステムと比較して大幅な省電力化を実現したとしています。

今回発表されたAIアクセラレータは、独自のアーキテクチャを採用することで、大規模言語モデルの推論処理における電力効率を飛躍的に向上させました。700億パラメータクラスのモデルは、ChatGPTやGPT-4などの商用AIサービスで使用される規模に相当し、通常は数千ワットの電力を必要とするとされています。

Skymizerの新技術では、メモリアクセスの最適化とデータフロー制御により、推論処理時の無駄な電力消費を削減。さらに、専用のニューラルネットワーク処理ユニット（NPU）を搭載することで、汎用GPUでは実現困難な高効率処理を可能にしたとみられます。

AI半導体市場では、NVIDIAが圧倒的なシェアを占める一方で、電力消費の課題が深刻化しています。データセンターでのAI処理需要が急増する中、電力効率の向上は業界全体の重要課題となっており、各社が技術開発を競っています。特に大規模言語モデルの推論処理は、学習処理と比べて頻繁に実行されるため、省電力化のインパクトは大きいとされます。

同社は2027年初頭の商用化を目指すとしており、クラウドサービス事業者やエッジコンピューティング分野への展開を計画しています。AIアクセラレータ市場は2030年までに1000億ドル規模に成長するとの予測もあり、省電力技術を武器とした競争が激化する可能性があります。

今後、Skymizerの技術が実用化されれば、AIサービスの運用コスト削減や環境負荷軽減に寄与するとみられます。また、モバイル端末やエッジデバイスでの大規模言語モデル活用も現実的になり、AI技術の普及がさらに加速する可能性があります。業界関係者は、この技術動向がAI半導体市場の勢力図に影響を与える可能性があるとして注目しています。