Tencent ने नई लाइसेंस शर्तों के साथ Hy4 ओपन वेट: 770B-पैरामीटर फ्लैगशिप जारी किया

Tencent ने 20 नवंबर को हगिंग फेस, मॉडलस्कोप और गिटकोड पर अपने प्रमुख मॉडल Hy4 का पूरा वजन जारी किया, जिसमें निर्देश-ट्यून संस्करण, एक FP8 क्वांटाइज्ड संस्करण और एक सिस्टम कार्ड के साथ पूर्व-प्रशिक्षित आधार शामिल है। आधिकारिक वेटेज नए Tencent Hy लाइसेंस का उपयोग करते हैं, जिसके तहत बड़े मॉडल एपीआई प्रदाताओं को अलग से लिखित प्राधिकरण की आवश्यकता होती है।
Tencent ने अपने प्रमुख बड़े मॉडल Hy4 का पूरा वजन डाउनलोड के लिए जारी कर दिया है, जो हगिंग फेस, मॉडलस्कोप और GitCode पर उपलब्ध है। रिलीज़ में निर्देश-ट्यून किए गए Hy4, FP8-क्वांटाइज़्ड Hy4-FP8 और पूर्व-प्रशिक्षित बेस मॉडल Hy4-बेस के साथ-साथ मॉडल की क्षमताओं और सीमाओं का वर्णन करने वाला एक सिस्टम कार्ड शामिल है। इसकी घोषणा 20 नवंबर को 03:52 यूटीसी पर या 19 नवंबर को 22:52 ईएसटी पर की गई थी।
770 बिलियन पैरामीटर, एक मिलियन-टोकन विंडो
Hy4 770 बिलियन कुल मापदंडों, प्रति टोकन लगभग 49 बिलियन सक्रिय, 78 परतों और लगभग दस लाख टोकन की एक संदर्भ विंडो के साथ मिश्रण-विशेषज्ञों (MoE) आर्किटेक्चर का उपयोग करता है। यह पाठ, छवि और वीडियो समझ के साथ-साथ कंप्यूटर उपयोग का समर्थन करता है, और Tencent ने vLLM और SGLang के लिए परिनियोजन मार्गदर्शिकाएँ प्रदान की हैं ताकि डेवलपर्स इसे अपने हार्डवेयर पर चला सकें। 4 नवंबर को एपीआई सेवा के रूप में अपने आधिकारिक लॉन्च से मॉडल में कोई बदलाव नहीं हुआ है।
नया लाइसेंस: बड़े प्रदाताओं को अलग प्राधिकरण की आवश्यकता होती है
विशेष रूप से, आधिकारिक वज़न के लिए लाइसेंस अगस्त पूर्वावलोकन से भिन्न है, जिसमें अपाचे 2.0 का उपयोग किया गया था। पूर्ण रिलीज़ नए Tencent Hy लाइसेंस का उपयोग करती है। अपाचे 2.0 से व्युत्पन्न, यह बड़े मॉडल एपीआई प्रदाताओं के लिए एक शर्त जोड़ता है: 50 मिलियन अमेरिकी डॉलर से अधिक वार्षिक राजस्व या 100 मिलियन से अधिक मासिक सक्रिय उपयोगकर्ताओं वाले उत्पादों को Tencent से अलग लिखित प्राधिकरण की आवश्यकता होती है। कुछ रिपोर्टें अभी भी रिलीज़ को अपाचे 2.0 के रूप में वर्णित करती हैं, जो मॉडल कार्ड के साथ टकराव करती है; मॉडल कार्ड नियंत्रित करता है.
एक महीने में एपीआई से वजन तक
Hy4 को पहली बार 4 नवंबर को एपीआई के रूप में जारी किया गया था, जिसमें Tencent ने वादा किया था कि वज़न का पालन किया जाएगा; 18 नवंबर को 220 बिलियन मापदंडों वाला हल्का Hy4 फ्लैश पहली बार ओपन-सोर्स किया गया था। अब फ्लैगशिप वेट खुलने के साथ, डेवलपर्स को अब केवल Tencent के एपीआई के माध्यम से Hy4 का उपयोग करने की आवश्यकता नहीं है और वे इसे स्थानीय स्तर पर तैनात, फाइन-ट्यून और अध्ययन कर सकते हैं। यह रिलीज़ ओपन-वेट फ्रंटियर मॉडल और बंद एपीआई सेवाओं के बीच तीव्र प्रतिस्पर्धा को जोड़ती है।
N環球 
💬 Comments
No comments yet. Be the first!