Nvidia fullfører oppkjøp på 20 milliarder dollar med full produksjon av Groq 3 LPX-rack

Nvidia har fullført det største oppkjøpet i selskapets historie ved å bringe Groq 3 LPX-rack inn i full produksjon. Ifølge selskapet markerer dette at den oppkjøpte teknologien fra Groq nå er kommersielt tilgjengelig. Groq 3 LPX-rackene vil bli integrert med Nvidias Vera-prosessorer og Rubin-grafikkprosessorer i skyplattformen til Nebius, og forventes å lanseres senere i år.

Dion Harris, senior direktør hos Nvidia, opplyste at Groq-rackene vil bli brukt sammen med Vera og Rubin for å støtte lavlatens tjenester. Han understreket at lavlatens inferens er avgjørende for å muliggjøre raske responser fra kunstig intelligens-agenter, spesielt i programmeringsscenarier. Dette gjør det mulig for skybaserte tjenesteleverandører å ta høyere avgifter for tjenester basert på token.

Harris forklarte at løsningen gir mulighet for å tilby høyere servicenivåer til kunder som krever ekstremt lav latens. Han presiserte at dette ikke er ment som en erstatning for GPU-er, men som et supplement for spesifikke arbeidsbelastninger. Groq 3 LPX-rackene består av 256 individuelle Groq 3-brikker, og ifølge Nvidia oppnår de en behandlingshastighet på 3 400 token per sekund ifølge en benchmark fra Artificial Analysis.

Nvidia kunngjorde oppkjøpet av Groq for 20 milliarder dollar i desember i fjor, noe som var selskapets største oppkjøp noensinne. Groq-brikkenes arkitektur integrerer 500 MB høyhastighets SRAM direkte på brikken for å redusere minnebottlenecks. Groq 3-brikkene produseres av Samsung, mens Nvidias GPU-er produseres av TSMC.

Selskapet påpeker at lavlatensbrikker som Groq ikke erstatter GPU-er, men utfyller dem ved å håndtere spesifikke faser av modellservicen, særlig «dekoding»-fasen. GPU-er forblir hovedkraften innen AI-brikker på grunn av sin fleksibilitet og evne til både trening og inferens.

Nvidia øker også produksjonen av Vera Rubin-systemet, som allerede er i produksjon siden tidligere i år. Selskapets administrerende direktør, Jensen Huang, uttalte i mars at de forventer at den kombinerte salgsinntekten fra dagens Blackwell-generasjon og det nye Vera Rubin-systemet vil nå 1 000 milliarder dollar innen 2027. Huang har tidligere sagt at opptil en firedel av datakapasiteten i hans egne datasentre vil bli avsatt til Groq-brikker, mens resten vil bruke Vera Rubin.

Rapportert av ITHome.