N環球 N GLOBE
미국 기술

Google 오픈소스 TorchTPU, 네이티브 PyTorch를 TPU에 도입

· N GLOBE

Google은 PyTorch 컨퍼런스 2026에서 Meta의 PyTorch 팀과 공동 개발한 TPU용 기본 PyTorch 스택인 TorchTPU가 이제 GitHub의 오픈 소스라고 발표했습니다. 기존 PyTorch 코드는 최소한의 변경만으로 Google TPU에서 실행됩니다.

왜 중요한가요?

PyTorch는 지배적인 AI 개발 프레임워크입니다. 일부 추정에 따르면 AI 애플리케이션의 약 85%가 PyTorch를 사용하고 있으며 오랫동안 Nvidia GPU에 최적화되어 왔습니다. TorchTPU는 Google의 TPU를 PyTorch의 기본 옵션으로 만들어 마이그레이션 비용을 대폭 낮추고 잠재적으로 Nvidia의 CUDA 생태계 종속을 완화합니다.

전체 보고서

Google Cloud 블로그(AI 및 컴퓨팅 인프라 부사장 겸 GM Mark Lohmeyer와 엔지니어링 부사장 Bill Jia 작성)는 PyTorch Conference 2026에서 Google의 기본 TPU용 PyTorch 스택인 TorchTPU가 이제 GitHub에서 오픈소스로 제공된다고 발표했습니다. TPU는 이제 훈련, 제공, 배포 전반에 걸쳐 PyTorch의 기본 옵션으로 GPU 및 CPU와 결합됩니다.

TorchTPU는 Meta의 PyTorch 팀과 공동 개발되었으며 개발자가 이전에 의존했던 PyTorch/XLA 경로를 대체합니다. 즉, Eager 모드에서 디버그한 다음 프로덕션 수준 성능을 위해 torch.compile을 사용합니다. TPU에서 실행하려면 기존 코드를 model.to("cuda")를 model.to("tpu")로 변경하기만 하면 됩니다.

TorchTPU는 vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face 및 LiteRT를 포함하여 개발자가 이미 사용하고 있는 도구와 함께 작동합니다. Google은 또한 더 이상 JAX를 거치지 않는 vLLM 및 SGLang(각각 Inferact 및 RadixArk로 구축)용 기본 TPU 백엔드를 출시했습니다. JAX 버전은 그대로 유지됩니다.

Meta의 PyTorch 엔지니어링 이사인 Jana van Greunen은 발표에서 TorchTPU를 통해 Meta가 PyTorch 워크로드(LLM, 광고 및 추천 시스템)를 Google TPU에 배포하는 동시에 엔지니어링 팀에 직접 피드백을 제공하여 모든 사람이 필요로 하는 생태계 유연성을 구축할 수 있다고 밝혔습니다.

💬 Comments

No comments yet. Be the first!