ओरेकल क्लाउड Google TPU की पेशकश करेगा, ऐसा करने वाला यह Google के बाहर पहला हाइपरस्केलर है

Oracle और Google ने 27 अक्टूबर को लास वेगास में Oracle AI वर्ल्ड में घोषणा की कि Google की Tensor प्रोसेसिंग यूनिट्स (TPUs) Oracle क्लाउड इंफ्रास्ट्रक्चर (OCI) के माध्यम से उपलब्ध होंगी, पहली बार Google TPUs को Google के बाहर हाइपरस्केल क्लाउड प्लेटफ़ॉर्म पर पेश किया जाएगा। OCI बड़े पैमाने पर TPU को तैनात करने के लिए पावर, कूलिंग और डेटा-सेंटर नेटवर्किंग प्रदान करेगा, जिसकी उपलब्धता कैलेंडर वर्ष 2027 में शुरू होगी और कई वर्षों की अवधि में बढ़ेगी।

आठवीं पीढ़ी के टीपीयू ने प्रशिक्षण और अनुमान को विभाजित किया

Google की आठवीं पीढ़ी का TPU दो उद्देश्य-निर्मित आर्किटेक्चर में आता है: प्रशिक्षण के लिए TPU 8t, जिसके बारे में कंपनियों का कहना है कि यह पिछली पीढ़ी की तुलना में प्रति पॉड लगभग 3 गुना गणना प्रदर्शन प्रदान करता है और फ्रंटियर-मॉडल विकास चक्र को महीनों से घटाकर सप्ताह कर देता है, और अनुमान के लिए TPU 8i, कई विशेष एजेंटों के पुनरावृत्त कार्य के लिए डिज़ाइन किया गया है। कंपनियों का कहना है कि टीपीयू बड़े-मॉडल प्रशिक्षण और प्रशिक्षण के बाद का समर्थन कर सकते हैं, जिसमें सघन और मिश्रण-विशेषज्ञ मॉडल, साथ ही तर्क, एजेंटिक और लंबे-संदर्भ अनुप्रयोगों के लिए उत्पादन अनुमान शामिल हैं।

ओरेकल का दांव: एक क्लाउड में कई आर्किटेक्चर

ओरेकल क्लाउड इंफ्रास्ट्रक्चर के अध्यक्ष महेश त्यागराजन ने कहा कि अलग-अलग एआई वर्कलोड की अलग-अलग गणना आवश्यकताएं होती हैं, और Google टीपीयू को ओसीआई में लाने से ग्राहकों को एक क्लाउड में कई अग्रणी एआई कंप्यूट आर्किटेक्चर तक पहुंच मिलती है। Google के वरिष्ठ उपाध्यक्ष और AI और बुनियादी ढांचे के मुख्य प्रौद्योगिकीविद् अमीन वाहदत ने कहा कि AI की अगली पीढ़ी के लिए विविध प्रकार की गणना की आवश्यकता होगी और TPU अधिक संगठनों को प्रौद्योगिकी तक पहुंच प्रदान करते हैं।

उसी दिन अलग से, रॉयटर्स ने बताया कि ओरेकल भी एनवीडिया के साथ अपने सौदे को नवीनतम वेरा रुबिन एआई सर्वर के साथ मल्टी-गीगावाट पैमाने पर विस्तारित कर रहा है, जबकि अपने इन-हाउस एक्सेलेरॉन नेटवर्किंग चिप्स के पक्ष में कुछ एनवीडिया नेटवर्किंग चिप्स को छोड़ रहा है, और सेरेब्रस और सांबानोवा से अनुमान चिप्स की पेशकश करने की योजना बना रहा है। Oracle ने उन सौदों के मूल्य का खुलासा नहीं किया, और TPU के लिए OCI मूल्य निर्धारण की घोषणा नहीं की गई; वास्तविक दुनिया के लाभ तैनाती विवरण और कार्यभार बेंचमार्क पर निर्भर होंगे।