N環球 
ਗੂਗਲ ਓਪਨ-ਸਰੋਤ ਟੋਰਚਟੀਪੀਯੂ, ਨੇਟਿਵ ਪਾਈਟੌਰਚ ਨੂੰ TPUs ਵਿੱਚ ਲਿਆ ਰਿਹਾ ਹੈ
Google ਨੇ PyTorch ਕਾਨਫਰੰਸ 2026 ਵਿੱਚ ਘੋਸ਼ਣਾ ਕੀਤੀ ਕਿ TorchTPU, Meta ਦੀ PyTorch ਟੀਮ ਨਾਲ ਸਹਿ-ਵਿਕਸਤ TPUs ਲਈ ਇਸਦਾ ਮੂਲ PyTorch ਸਟੈਕ, ਹੁਣ GitHub 'ਤੇ ਓਪਨ ਸੋਰਸ ਹੈ। ਮੌਜੂਦਾ PyTorch ਕੋਡ ਘੱਟੋ-ਘੱਟ ਬਦਲਾਅ ਦੇ ਨਾਲ Google TPUs 'ਤੇ ਚੱਲਦਾ ਹੈ।
ਇਹ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦਾ ਹੈ
PyTorch ਪ੍ਰਮੁੱਖ AI ਵਿਕਾਸ ਫਰੇਮਵਰਕ ਹੈ - ਕੁਝ ਅੰਦਾਜ਼ੇ ਕਹਿੰਦੇ ਹਨ ਕਿ ਲਗਭਗ 85% AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਇਸਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ - ਅਤੇ ਇਹ ਲੰਬੇ ਸਮੇਂ ਤੋਂ Nvidia GPUs ਲਈ ਅਨੁਕੂਲਿਤ ਕੀਤਾ ਗਿਆ ਹੈ। TorchTPU Google ਦੇ TPUs ਨੂੰ PyTorch ਲਈ ਇੱਕ ਮੂਲ ਵਿਕਲਪ ਬਣਾਉਂਦਾ ਹੈ, ਮਾਈਗ੍ਰੇਸ਼ਨ ਦੀ ਲਾਗਤ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਘਟਾਉਂਦਾ ਹੈ ਅਤੇ Nvidia ਦੇ CUDA ਈਕੋਸਿਸਟਮ ਲਾਕ-ਇਨ ਨੂੰ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਢਿੱਲਾ ਕਰਦਾ ਹੈ।
ਪੂਰੀ ਰਿਪੋਰਟ
ਗੂਗਲ ਕਲਾਉਡ ਬਲੌਗ (ਮਾਰਕ ਲੋਹਮੇਅਰ, AI ਅਤੇ ਕੰਪਿਊਟਿੰਗ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ VP ਅਤੇ GM, ਅਤੇ ਬਿਲ ਜੀਆ, VP, ਇੰਜੀਨੀਅਰਿੰਗ) ਨੇ PyTorch ਕਾਨਫਰੰਸ 2026 ਵਿੱਚ ਘੋਸ਼ਣਾ ਕੀਤੀ ਕਿ TorchTPU, TPUs ਲਈ Google ਦਾ ਮੂਲ PyTorch ਸਟੈਕ, ਹੁਣ GitHub 'ਤੇ ਓਪਨ ਸੋਰਸ ਹੈ। TPUs ਹੁਣ PyTorch, ਸਿਖਲਾਈ, ਸੇਵਾ ਅਤੇ ਤੈਨਾਤੀ ਲਈ ਇੱਕ ਮੂਲ ਵਿਕਲਪ ਵਜੋਂ GPUs ਅਤੇ CPUs ਵਿੱਚ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ।
TorchTPU ਨੂੰ Meta ਵਿਖੇ PyTorch ਟੀਮ ਦੇ ਨਾਲ ਸਹਿ-ਵਿਕਸਤ ਕੀਤਾ ਗਿਆ ਸੀ ਅਤੇ PyTorch/XLA ਰੂਟ ਡਿਵੈਲਪਰਾਂ ਦੀ ਥਾਂ ਲੈਂਦਾ ਹੈ ਜਿਸ 'ਤੇ ਪਹਿਲਾਂ ਨਿਰਭਰ ਸੀ: ਉਤਸੁਕ ਮੋਡ ਵਿੱਚ ਡੀਬੱਗ ਕਰੋ, ਫਿਰ ਉਤਪਾਦਨ-ਪੱਧਰ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਲਈ torch.compile ਦੀ ਵਰਤੋਂ ਕਰੋ। TPUs 'ਤੇ ਚੱਲਣ ਲਈ ਮੌਜੂਦਾ ਕੋਡ ਨੂੰ ਸਿਰਫ਼ model.to("cuda") ਨੂੰ model.to("tpu") ਵਿੱਚ ਬਦਲਣ ਦੀ ਲੋੜ ਹੈ।
TorchTPU ਟੂਲ ਡਿਵੈਲਪਰਾਂ ਨਾਲ ਕੰਮ ਕਰਦਾ ਹੈ ਜੋ ਪਹਿਲਾਂ ਹੀ ਵਰਤੇ ਜਾਂਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face ਅਤੇ LiteRT ਸ਼ਾਮਲ ਹਨ। ਗੂਗਲ ਨੇ vLLM ਅਤੇ SGLang (ਕ੍ਰਮਵਾਰ Inferact ਅਤੇ RadixArk ਨਾਲ ਬਣਾਇਆ) ਲਈ ਮੂਲ TPU ਬੈਕਐਂਡ ਵੀ ਜਾਰੀ ਕੀਤਾ, ਜੋ ਹੁਣ JAX ਦੁਆਰਾ ਨਹੀਂ ਜਾਂਦੇ ਹਨ; JAX ਸੰਸਕਰਣ ਬਣਾਏ ਰਹਿੰਦੇ ਹਨ।
ਮੈਟਾ ਵਿਖੇ ਪਾਈਟੋਰਚ ਇੰਜਨੀਅਰਿੰਗ ਦੇ ਡਾਇਰੈਕਟਰ, ਜੈਨਾ ਵੈਨ ਗਰੂਨੇਨ ਨੇ ਘੋਸ਼ਣਾ ਵਿੱਚ ਕਿਹਾ ਕਿ TorchTPU Meta ਨੂੰ PyTorch ਵਰਕਲੋਡ - LLM, ਵਿਗਿਆਪਨ ਅਤੇ ਸਿਫ਼ਾਰਿਸ਼ ਪ੍ਰਣਾਲੀਆਂ - ਨੂੰ Google TPUs ਨੂੰ ਸਿੱਧੇ ਇੰਜੀਨੀਅਰਿੰਗ ਟੀਮਾਂ ਨੂੰ ਫੀਡਬੈਕ ਦਿੰਦੇ ਹੋਏ, ਵਾਤਾਵਰਣ ਪ੍ਰਣਾਲੀ ਦੀ ਲਚਕਤਾ ਦਾ ਨਿਰਮਾਣ ਕਰਨ ਦਿੰਦਾ ਹੈ ਜਿਸਦੀ ਹਰ ਕਿਸੇ ਨੂੰ ਲੋੜ ਹੁੰਦੀ ਹੈ।
💬 Comments
No comments yet. Be the first!