N環球 
Google ওপেন-সোর্স টর্চটিপিইউ, টিপিইউতে নেটিভ পাইটর্চ নিয়ে আসছে
Google PyTorch Conference 2026-এ ঘোষণা করেছে যে TorchTPU, মেটা-এর PyTorch টিমের সাথে সহ-বিকশিত TPU-এর জন্য তার নেটিভ PyTorch স্ট্যাক, এখন GitHub-এ ওপেন সোর্স। বিদ্যমান PyTorch কোড ন্যূনতম পরিবর্তন সহ Google TPU-তে চলে।
কেন এটা গুরুত্বপূর্ণ
PyTorch হল প্রভাবশালী AI ডেভেলপমেন্ট ফ্রেমওয়ার্ক -- কিছু অনুমান বলছে প্রায় 85% AI অ্যাপ্লিকেশন এটি ব্যবহার করে -- এবং এটি দীর্ঘদিন ধরে Nvidia GPU-এর জন্য অপ্টিমাইজ করা হয়েছে। TorchTPU Google-এর TPUs-কে PyTorch-এর জন্য একটি নেটিভ বিকল্প করে তোলে, যা দ্রুত স্থানান্তরের খরচ কমিয়ে দেয় এবং Nvidia-এর CUDA ইকোসিস্টেম লক-ইনকে সম্ভাব্যভাবে শিথিল করে।
সম্পূর্ণ প্রতিবেদন
Google ক্লাউড ব্লগ (মার্ক লোহমেয়ার, AI ও কম্পিউটিং ইনফ্রাস্ট্রাকচারের ভিপি এবং জিএম এবং বিল জিয়া, প্রকৌশলের ভিপি) PyTorch Conference 2026-এ ঘোষণা করেছে যে TorchTPU, TPU-গুলির জন্য Google-এর নেটিভ পাইটর্চ স্ট্যাক, এখন GitHub-এ ওপেন সোর্স। TPUs এখন PyTorch, প্রশিক্ষণ, পরিবেশন এবং স্থাপনার জন্য একটি নেটিভ বিকল্প হিসাবে GPU এবং CPU-তে যোগদান করে।
TorchTPU মেটাতে PyTorch টিমের সাথে সহ-বিকাশ করা হয়েছিল এবং PyTorch/XLA রুট ডেভেলপারদের প্রতিস্থাপন করেছে যা পূর্বে নির্ভর করেছিল: আগ্রহী মোডে ডিবাগ করুন, তারপর উত্পাদন-স্তরের পারফরম্যান্সের জন্য torch.compile ব্যবহার করুন৷ বিদ্যমান কোড শুধুমাত্র মডেল.to("cuda") থেকে model.to("tpu") এ TPU-তে চালানোর জন্য পরিবর্তন করতে হবে।
টর্চটিপিইউ ভিএলএলএম, এসজিল্যাং, এলএলএম-ডি, টর্চটাইটান, রে, টর্চআরেক, হাগিং ফেস এবং লিটআরটি সহ ডেভেলপাররা ইতিমধ্যেই ব্যবহার করা সরঞ্জামগুলির সাথে কাজ করে৷ Google এছাড়াও vLLM এবং SGLang (যথাক্রমে Inferact এবং RadixArk দিয়ে নির্মিত) জন্য নেটিভ TPU ব্যাকএন্ড প্রকাশ করেছে, যা আর JAX-এর মধ্য দিয়ে যায় না; JAX সংস্করণ বজায় থাকে।
Meta-তে PyTorch ইঞ্জিনিয়ারিং-এর ডিরেক্টর Jana van Greunen, ঘোষণায় বলেছেন যে TorchTPU মেটাকে PyTorch ওয়ার্কলোড -- LLMs, বিজ্ঞাপন এবং সুপারিশ সিস্টেম -- Google TPU-তে স্থাপন করতে দেয় যখন প্রকৌশল দলগুলিকে সরাসরি প্রতিক্রিয়া জানানো হয়, বাস্তুতন্ত্রের নমনীয়তা তৈরি করে যা প্রত্যেকের প্রয়োজন।
💬 Comments
No comments yet. Be the first!