Skymizer、700BのLLMを240Wで推論可能なAIアクセラレータ開発

AI半導体開発を手がけるSkymizerは9日、700億パラメータの大規模言語モデル（LLM）を約240Wの消費電力で推論処理できるAIアクセラレータを開発したと発表しました。この技術により、従来のGPUと比較して大幅な省電力化を実現し、AI処理の運用コスト削減に寄与するとみられます。

今回発表されたAIアクセラレータは、独自のアーキテクチャにより、大規模なLLMの推論処理において高い電力効率を実現しています。700億パラメータ規模のモデルは、ChatGPTなどの商用AIサービスで使用される規模に相当し、これまで数千ワット級の電力消費が一般的でした。240Wという消費電力は、従来比で10分の1以下の水準とされています。

AI処理における消費電力の削減は、データセンター運営企業にとって重要な課題となっています。生成AIの普及に伴い、大手クラウドプロバイダーは電力コストの増大に直面しており、より効率的なハードウェアへの需要が高まっています。業界関係者によると、AI処理専用チップ市場は2026年に500億ドル規模に達する可能性があるとの予測もあります。

Skymizerの技術は、メモリアクセスの最適化と演算処理の並列化を組み合わせた独自手法により実現されています。従来のGPUベースのシステムでは、メモリとプロセッサ間のデータ転送が電力消費の大きな要因となっていましたが、同社のアーキテクチャではこのボトルネックを解消する設計が採用されています。

同技術の実用化により、企業がAIサービスを導入する際の運用コストが大幅に削減される可能性があります。特に、24時間稼働するチャットボットや推薦システムなど、継続的なAI処理が必要なサービスにおいて、電力効率の向上は直接的なコスト削減効果をもたらします。

AIアクセラレータ市場では、NVIDIA、AMD、インテルなどの大手半導体企業が競争を繰り広げており、新興企業の参入も相次いでいます。電力効率の向上は、処理性能と並んで重要な差別化要因となっており、各社が独自技術の開発を急いでいます。

Skymizerは今後、量産に向けた準備を進めるとともに、さらなる電力効率の向上を目指すとしています。AI処理の民主化と運用コスト削減を通じて、より多くの企業がAI技術を活用できる環境の整備が期待されます。同社の技術が市場に与える影響と、競合他社の対応が注目されるところです。