N環球 
TorchTPU mã nguồn mở của Google, đưa PyTorch gốc vào TPU
Google đã công bố tại Hội nghị PyTorch 2026 rằng TorchTPU, hệ thống PyTorch gốc dành cho TPU được đồng phát triển với nhóm PyTorch của Meta, hiện là nguồn mở trên GitHub. Mã PyTorch hiện tại chạy trên Google TPU với những thay đổi tối thiểu.
Tại sao nó quan trọng
PyTorch là khung phát triển AI thống trị - một số ước tính cho biết khoảng 85% ứng dụng AI sử dụng nó - và nó từ lâu đã được tối ưu hóa cho GPU Nvidia. TorchTPU biến TPU của Google trở thành một lựa chọn gốc cho PyTorch, giảm đáng kể chi phí di chuyển và có khả năng nới lỏng khóa hệ sinh thái CUDA của Nvidia.
Báo cáo đầy đủ
Blog Google Cloud (của Mark Lohmeyer, Phó chủ tịch & Tổng giám đốc Cơ sở hạ tầng máy tính & AI và Bill Jia, Phó chủ tịch kỹ thuật) đã công bố tại Hội nghị PyTorch 2026 rằng TorchTPU, hệ thống PyTorch gốc của Google dành cho TPU, hiện là nguồn mở trên GitHub. TPU hiện kết hợp với GPU và CPU dưới dạng tùy chọn gốc cho PyTorch, mở rộng đào tạo, phục vụ và triển khai.
TorchTPU được đồng phát triển với nhóm PyTorch tại Meta và thay thế các nhà phát triển tuyến đường PyTorch/XLA trước đây dựa vào: gỡ lỗi ở chế độ háo hức, sau đó sử dụng torch.compile để có hiệu suất ở cấp độ sản xuất. Mã hiện tại chỉ cần thay đổi model.to("cuda") thành model.to("tpu") để chạy trên TPU.
TorchTPU hoạt động với các công cụ mà các nhà phát triển đã sử dụng, bao gồm vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face và LiteRT. Google cũng phát hành các chương trình phụ trợ TPU gốc cho vLLM và SGLang (được xây dựng tương ứng với Inferact và RadixArk), không còn thông qua JAX nữa; các phiên bản JAX vẫn được duy trì.
Jana van Greunen, Giám đốc Kỹ thuật PyTorch tại Meta, cho biết trong thông báo rằng TorchTPU cho phép Meta triển khai khối lượng công việc PyTorch -- LLM, quảng cáo và hệ thống đề xuất -- cho Google TPU đồng thời cung cấp phản hồi trực tiếp cho các nhóm kỹ thuật, xây dựng tính linh hoạt của hệ sinh thái mà mọi người cần.
💬 Comments
No comments yet. Be the first!