Microsoft presenta Maia 300, il nuovo chiplet per l'intelligenza artificiale

Microsoft ha lanciato Maia 300, il suo terzo acceleratore di intelligenza artificiale, che si posiziona come un'evoluzione diretta dei modelli precedenti. Il nuovo dispositivo è stato introdotto per rispondere alle crescenti esigenze di elaborazione dei modelli di ultima generazione, segnando un passo avanti significativo rispetto alle versioni Maia 100 e Maia 200.

Il nuovo processore è progettato per gestire contesti di lunghezza estesa e modelli che richiedono un'intensa capacità di ragionamento. Per raggiungere questi obiettivi, il sistema adotta un'architettura basata su chiplet, ovvero l'assemblaggio di più chip in un'unica unità. Questa configurazione integra una memoria con accesso non uniforme, posizionata in prossimità delle unità di elaborazione per minimizzare i tempi di trasferimento dei dati. Tale disposizione consente di ridurre drasticamente il movimento delle informazioni all'interno del sistema, migliorando l'efficienza complessiva dell'hardware.

Un elemento distintivo di Maia 300 è l'adozione di un nuovo formato di dati a bassa precisione, denominato MXFP4. Questa tecnologia riduce la larghezza dei dati e il consumo di memoria, permettendo l'esecuzione di modelli di dimensioni maggiori e con contesti più lunghi. Il chip è inoltre dotato di memoria HBM4, che offre una larghezza di banda di 18 terabit al secondo. Questo valore rappresenta un incremento di 2,5 volte rispetto alla memoria HBM3E, che opera a 7,1 terabit al secondo, garantendo un flusso di dati molto più rapido verso le unità di calcolo.

L'architettura di base, nota come architettura a flusso di dati localmente accessibile definita dal software, separa il percorso di controllo dal percorso dei dati. Il software gestisce la posizione delle informazioni per ottimizzare le prestazioni. Il nuovo modello sviluppa ulteriormente questo approccio, migliorando la gestione dei carichi di lavoro intensivi nella decodifica. L'efficienza energetica è stata notevolmente aumentata, con un miglioramento del 40 percento nel rapporto tra token generati e megawatt consumati rispetto all'uso di unità di elaborazione grafica tradizionali.

Grazie a queste innovazioni, è possibile installare il doppio dei chip in un singolo rack, passando da 48 a 96 unità, mantenendo invariata la potenza assorbita di 167 kilowatt. Di conseguenza, il nuovo sistema produce 7 volte più token rispetto alla versione Maia 200 e offre un'efficienza energetica 2,5 volte superiore. Il nuovo acceleratore è previsto per l'implementazione in ambienti di produzione a partire dal 2027. La testata Blognone ha riportato i dettagli tecnici e le specifiche di questa nuova generazione di hardware.