Intel lancia la GPU D-series per l'inferenza dei modelli LLM

Intel ha presentato la GPU D-series, progettata specificamente per eseguire modelli di grandi dimensioni di linguaggio. Blognone ha riportato la notizia. La serie D, nota anche come Crescent Island, è stata sviluppata per l'inferenza dei modelli LLM. La GPU D270, unico modello attualmente disponibile, può ospitare fino a 480 gigabyte di memoria LPDDR5X con una larghezza di banda di 1.5 terabyte al secondo.

La GPU offre una potenza di calcolo in virgola mobile FP8 di 1.3 petaflops, permettendo l'esecuzione di modelli con 300 miliardi di parametri su una singola scheda. Se otto schede vengono collegate insieme, è possibile gestire oltre un trilione di parametri. La GPU è costruita sull'architettura Xe3P con 32 core e 256 unità di elaborazione delle matrici XMX. La scheda utilizza un'interfaccia PCIe 5.0 standard, ha un consumo energetico di 350 watt e un sistema di raffreddamento ad aria.

È progettata per essere compatibile con i tradizionali data center esistenti. Intel ha rimosso i componenti hardware tradizionali per l'elaborazione grafica 3D e il ray tracing per massimizzare lo spazio dedicato all'elaborazione AI.