谷歌开源 TorchTPU：PyTorch 原生跑在 TPU 上，挑战英伟达生态

全文

谷歌云官方博客（AI 与计算基础设施副总裁 Mark Lohmeyer、工程副总裁 Bill Jia 署名）宣布，在 PyTorch 大会 2026 上，谷歌的 TPU 原生 PyTorch 技术栈 TorchTPU 正式在 GitHub 开源。TPU 由此与 GPU、CPU 一起，成为 PyTorch 的原生选项，涵盖训练、推理与部署。

TorchTPU 由谷歌与 Meta 的 PyTorch 团队共同开发，取代了开发者过去依赖的 PyTorch/XLA 路线：先在 eager 模式下调试，再用 torch.compile 达到生产级性能；现有代码只需把 model.to("cuda") 改成 model.to("tpu")，即可在 TPU 上运行。

TorchTPU 与开发者常用的工具链兼容，包括 vLLM、SGLang、llm-d、TorchTitan、Ray、TorchRec、Hugging Face 与 LiteRT。谷歌还发布了 vLLM 与 SGLang 的 TPU 原生后端（分别与 Inferact、RadixArk 合作），不再经由 JAX 运行；原有的 JAX 版本继续维护。

Meta 的 PyTorch 工程总监 Jana van Greunen 在公告中表示，TorchTPU 让 Meta 能把大语言模型、广告与推荐系统等 PyTorch 负载部署到谷歌 TPU 上，同时把一线反馈直接交给工程团队，建立生态所需的弹性。