Microsoft dévoile le Maia 300, troisième génération de puce IA à architecture chiplet

Microsoft a présenté le Maia 300, troisième génération de puce accélératrice d'intelligence artificielle, dotée d'une architecture chiplet. Cette puce succède au Maia 100 lancé en 2023 et au Maia 200 présenté au début de l'année 2026. Le Maia 300 est actuellement utilisé en production pour des services tels que Copilot. L'entreprise indique que cette nouvelle puce permet de générer sept fois plus de tokens que le Maia 200 et de réaliser des économies d'énergie supérieures. Selon Microsoft, le Maia 300 offre une efficacité énergétique supérieure de 40 % par rapport à l'utilisation de GPU. L'architecture Software Defined Locally Accessed Dataflow Architecture (SDLA) du Maia 200 est conservée et améliorée par le Maia 300. Cette architecture sépare le chemin de contrôle du chemin de données, le logiciel gérant ainsi l'emplacement des données.

Le Maia 300 pousse cette approche plus loin pour répondre aux besoins de contextes longs, de modèles lourds en raisonnement et de modèles de décodage. La conception chiplet du Maia 300 utilise plusieurs puces connectées disposant d'une mémoire non uniforme (NUMA) placées près des unités de calcul. Un nouveau format de données MXFP4 à précision réduite réduit la taille de la mémoire et les transferts de données, permettant de faire tourner des modèles plus grands avec des contextes plus longs. L'utilisation de mémoire HBM4 augmente le débit mémoire à 18 téraoctets par seconde, soit 2,5 fois plus que le HBM3E à 7,1 téraoctets par seconde.

Ces avancées, notamment en matière d'économie d'énergie, permettent d'embarquer deux fois plus de puces par rack, passant de 48 à 96 unités sous une alimentation de 167 kW. En conséquence, le Maia 300 produit sept fois plus de tokens que le Maia 200, avec une efficacité énergétique améliorée de 2,5 fois. Le Maia 300 devrait entrer en service effectif en 2027.

Rapporté par Blognone.