N環球 
Google Open-Sources TorchTPU، مقامی PyTorch کو TPUs میں لا رہا ہے۔
گوگل نے PyTorch کانفرنس 2026 میں اعلان کیا کہ TorchTPU، اس کا مقامی PyTorch اسٹیک TPUs کے لیے میٹا کی PyTorch ٹیم کے ساتھ مل کر تیار کیا گیا ہے، اب GitHub پر اوپن سورس ہے۔ موجودہ PyTorch کوڈ کم سے کم تبدیلیوں کے ساتھ Google TPUs پر چلتا ہے۔
یہ کیوں اہمیت رکھتا ہے۔
PyTorch غالب AI ڈویلپمنٹ فریم ورک ہے -- کچھ اندازوں کے مطابق تقریباً 85% AI ایپلی کیشنز اسے استعمال کرتی ہیں -- اور اسے Nvidia GPUs کے لیے طویل عرصے سے بہتر بنایا گیا ہے۔ TorchTPU گوگل کے TPUs کو PyTorch کے لیے ایک مقامی آپشن بناتا ہے، جس سے نقل مکانی کی لاگت تیزی سے کم ہوتی ہے اور Nvidia کے CUDA ایکو سسٹم کے لاک ان کو ممکنہ طور پر ڈھیلا کرتا ہے۔
مکمل رپورٹ
گوگل کلاؤڈ بلاگ (بذریعہ مارک لوہمیئر، AI اور کمپیوٹنگ انفراسٹرکچر کے VP اور GM، اور بل جیا، VP آف انجینئرنگ) نے PyTorch کانفرنس 2026 میں اعلان کیا کہ TorchTPU، TPUs کے لیے Google کا مقامی PyTorch اسٹیک، اب GitHub پر اوپن سورس ہے۔ TPUs اب PyTorch کے لیے ایک مقامی آپشن کے طور پر GPUs اور CPUs میں شامل ہوتے ہیں، ٹریننگ، سرونگ اور تعیناتی پر محیط ہیں۔
TorchTPU کو میٹا میں PyTorch ٹیم کے ساتھ مل کر تیار کیا گیا تھا اور PyTorch/XLA روٹ ڈویلپرز کی جگہ لے لیتا ہے جن پر پہلے انحصار کیا گیا تھا: ایجر موڈ میں ڈیبگ کریں، پھر پروڈکشن لیول کی کارکردگی کے لیے torch.compile کا استعمال کریں۔ TPUs پر چلنے کے لیے موجودہ کوڈ کو صرف model.to("cuda") کو model.to("tpu") میں تبدیل کرنے کی ضرورت ہے۔
TorchTPU ان ٹولز کے ساتھ کام کرتا ہے جو ڈویلپر پہلے سے استعمال کر رہے ہیں، بشمول vLLM، SGLang، llm-d، TorchTitan، Ray، TorchRec، Hugging Face اور LiteRT۔ گوگل نے vLLM اور SGLang (بالترتیب Inferact اور RadixArk کے ساتھ بنایا ہوا) کے لیے مقامی TPU بیک اینڈز بھی جاری کیے، جو اب JAX سے نہیں گزرے؛ JAX ورژن برقرار رہتے ہیں۔
Meta میں PyTorch انجینئرنگ کی ڈائریکٹر Jana van Greunen نے اعلان میں کہا کہ TorchTPU Meta کو PyTorch کام کے بوجھ -- LLMs، اشتہارات اور سفارشی نظام -- کو Google TPUs پر تعینات کرنے دیتا ہے جبکہ انجینئرنگ ٹیموں کو براہ راست فیڈ بیک فراہم کرتے ہوئے، ماحولیاتی نظام کی لچک کی تعمیر ہر ایک کی ضرورت ہے۔
💬 Comments
No comments yet. Be the first!