Google lancia TorchTPU per eseguire codice PyTorch su chip TPU

Google ha lanciato TorchTPU, un backend per la libreria PyTorch, in grado di eseguire codice su chip TPU in modo nativo e ottimale. Questa iniziativa è simile a quella di Amazon, che ha introdotto TorchNeuron per compilare codice PyTorch da eseguire su chip Trainium. TorchTPU è il risultato di uno sviluppo congiunto tra Google e il team PyTorch di Meta, con l'obiettivo di espandere l'uso di PyTorch su nuovi chip oltre ai tradizionali CPU e GPU.

Inoltre, Google ha collaborato con Hugging Face per testare l'esecuzione di vari modelli open source su TorchTPU, dimostrando prestazioni elevate. Sono state effettuate prove con librerie rinomate come vLLM, SGLang, llm-d, TorchTitan, VeRL, Ray e LiteRT per valutare l'utilizzo su TPU.

Google ha iniziato lo sviluppo di TorchTPU nel 2025 e ha presentato il progetto come open source completo su GitHub durante la PyTorch Conference 2026, che si è tenuta questa settimana. La notizia è stata riportata da Blognone.