TorchTPU de código aberto do Google, trazendo PyTorch nativo para TPUs

O Google anunciou na PyTorch Conference 2026 que TorchTPU, sua pilha PyTorch nativa para TPUs co-desenvolvida com a equipe PyTorch da Meta, agora é código aberto no GitHub. O código PyTorch existente é executado em TPUs do Google com alterações mínimas.
Por que isso importa
PyTorch é a estrutura de desenvolvimento de IA dominante – algumas estimativas dizem que cerca de 85% dos aplicativos de IA a utilizam – e há muito tempo foi otimizada para GPUs Nvidia. O TorchTPU torna as TPUs do Google uma opção nativa para PyTorch, reduzindo drasticamente o custo de migração e potencialmente afrouxando o aprisionamento do ecossistema CUDA da Nvidia.
Relatório completo
O blog do Google Cloud (de Mark Lohmeyer, vice-presidente e gerente geral de IA e infraestrutura de computação, e Bill Jia, vice-presidente de engenharia) anunciou na PyTorch Conference 2026 que TorchTPU, a pilha PyTorch nativa do Google para TPUs, agora é código aberto no GitHub. TPUs agora se juntam a GPUs e CPUs como uma opção nativa para PyTorch, abrangendo treinamento, serviço e implantação.
TorchTPU foi co-desenvolvido com a equipe PyTorch da Meta e substitui a rota PyTorch/XLA na qual os desenvolvedores confiavam anteriormente: depurar no modo ansioso e, em seguida, usar torch.compile para desempenho em nível de produção. O código existente só precisa alterar model.to("cuda") para model.to("tpu") para ser executado em TPUs.
TorchTPU funciona com ferramentas que os desenvolvedores já usam, incluindo vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face e LiteRT. O Google também lançou back-ends de TPU nativos para vLLM e SGLang (construídos com Inferact e RadixArk respectivamente), que não passam mais por JAX; as versões JAX permanecem mantidas.
Jana van Greunen, Diretora de Engenharia PyTorch da Meta, disse no anúncio que o TorchTPU permite que a Meta implante cargas de trabalho PyTorch – LLMs, anúncios e sistemas de recomendação – para Google TPUs enquanto fornece feedback diretamente às equipes de engenharia, construindo a flexibilidade do ecossistema que todos precisam.
N環球 
💬 Comments
No comments yet. Be the first!