Intel lanceert D-serie GPU voor LLM-inferentie met tot 480 GB geheugen

Intel heeft de D-serie grafische verwerkingseenheden gepresenteerd, specifiek ontworpen voor het uitvoeren van inferentietaken op grote taalmodellen in datacenters. De eerste beschikbare variant, aangeduid als D270, ondersteunt tot 480 GB LPDDR5X-geheugen op een enkele kaart.

Deze eenheid, die de codenaam Crescent Island draagt, is gebaseerd op de Xe3P-architectuur en bevat 32 kernen samen met 256 XMX-matrixverwerkingseenheden. Het systeem levert een rekenkracht van 1,3 petaflops bij FP8-berekeningen en beschikt over een geheugenbandbreedte van 1,5 TB per seconde. Hiermee kan een enkel exemplaar modellen met 300 miljard parameters verwerken, terwijl een configuratie van acht kaarten samen meer dan één biljoen parameters aankan.

Opmerkelijk is dat Intel de traditionele hardware voor driedimensionale grafische weergave en raytracing volledig heeft verwijderd. Deze ruimte wordt benut om de capaciteit voor kunstmatige intelligentie te maximaliseren, waardoor de kaart niet geschikt is voor grafische taken of gaming. De fysieke kaart maakt gebruik van de standaard PCIe 5.0-aansluiting, heeft een thermisch ontwerpvermogen van 350 watt en maakt gebruik van luchtgekoelde koeling voor integratie in bestaande datacenteromgevingen.

Deze feiten werden gerapporteerd door de nieuwsuitzending van Blognone.