マイクロソフトがMaia 300チップを発表し、2027年に展開を開始

マイクロソフトは、Azure内での推論専用のAIアクセラレーターの第3世代であるMaia 300チップを発表し、2027年に生産展開を開始すると発表しました。

このプラットフォームは、長期的な推論負荷や応答時間が敏感な会話、複数のステップを要するタスクに設計されています。システム全体は、167キロワットの電力制限の下で96のアクセラレーターを含み、27.6テラバイトのHBMメモリと1.7ペタバイト毎秒の累積帯域幅を備えています。

マイクロソフトは、Maia 300がGPUシステムよりも40%多くのトークンをメガワットあたり提供し、Maia 200の7倍のトークン処理速度に達することを期待しています。しかし、これらの数字は同社からのものであり、独立したテストや参照システム名で支持されていません。

Reutersの報告によると、小型チップ設計が採用され、基本的な計算機能はTSMCのN2Pプロセスで製造され、入出力機能には3ナノメートルプロセスのチップが使用されるとのことです。マイクロソフトは、Maia 300が自社のサービスの主要な推論システムになると述べており、Azure内でのハードウェアオプションやモデルのサポートを継続するとしています。

ArabHardware の報道。