Intel meluncurkan GPU D-series untuk model LLM dengan RAM hingga 480GB

Intel meluncurkan GPU D-series yang dirancang khusus untuk menjalankan model LLM. Model ini, dengan nama kode Crescent Island, memiliki kapasitas RAM maksimum hingga 480GB LPDDR5X dalam satu kartu. Memori ini memiliki bandwidth 1.5 TB/s dan menawarkan kinerja pengolahan dengan format desimal FP8 mencapai 1.3 petaflops.

GPU D-series, yang saat ini memiliki model D270, mendukung pengolahan model dengan parameter hingga 300B dalam satu kartu. Jika dihubungkan dalam konfigurasi delapan kartu, dapat mencapai lebih dari satu triliun parameter. GPU ini dibangun di atas arsitektur Xe3P dan dilengkapi dengan 32 inti serta 256 unit pemrosesan matriks XMX.

Kartu ini terhubung melalui port PCIe 5.0 dan memiliki daya maksimum 350 watt dengan sistem pendinginan berbasis udara. Desain ini ditujukan untuk pusat data tradisional yang sudah ada, tanpa mempertimbangkan penggunaan untuk grafis atau permainan. Intel juga telah menghapus komponen pemrosesan grafis 3D tradisional, termasuk ray tracing, untuk memaksimalkan kapasitas pengolahan AI.

Dilaporkan oleh Blognone.