मीटुआन ओपन-सोर्स 1.6T-पैरामीटर लॉन्गकैट-2.5, एनवीडिया चिप्स के बिना प्रशिक्षित

मीटुआन ने लॉन्गकैट-2.5 के लिए वजन जारी किया है, जो 1.6-ट्रिलियन-पैरामीटर मिश्रण-विशेषज्ञ मॉडल है जो लंबी-क्षितिज स्वायत्त कोडिंग और एजेंट कार्यों के लिए बनाया गया है, जो पूरी तरह से चीनी निर्मित त्वरक पर प्रशिक्षित है, जिसमें 194 हुआवेई एसेंड चिप्स पर निर्मित स्व-होस्टिंग गाइड है।
मीटुआन ने लॉन्गकैट-2.5 के लिए ओपन वेट जारी किया है, जो 1.6 ट्रिलियन मापदंडों के साथ विशेषज्ञों का मिश्रण (एमओई) मॉडल है, जो लंबे, बहु-चरणीय स्वायत्त कार्यों, विशेष रूप से कोडिंग के लिए डिज़ाइन किया गया है। मुख्य विवरण यह है कि इसे एनवीडिया चिप्स के बिना, पूरी तरह से चीनी निर्मित कंप्यूटिंग हार्डवेयर पर प्रशिक्षित किया गया था।
डिकोडर की रिपोर्ट है कि एमआईटी लाइसेंस के तहत मॉडल के अनावरण के लगभग एक सप्ताह बाद वजन उपलब्ध हो गया, जो व्यावसायिक उपयोग, संशोधन और पुनर्वितरण की अनुमति देता है। हालाँकि मॉडल में कुल 1.6 ट्रिलियन पैरामीटर हैं, प्रति टोकन केवल 48 बिलियन ही सक्रिय हैं। इसका एपीआई दस लाख टोकन इनपुट और 128,000 टोकन तक प्रतिक्रियाओं का समर्थन करता है, टेक्स्ट, छवियों और वीडियो को संभालता है, और उपयोगकर्ताओं को रीजनिंग मोड को चालू या बंद करने देता है।
सेल्फ-होस्टिंग गाइड 194 Huawei Ascend चिप्स पर चलता है
मीटुआन की सेल्फ-होस्टिंग गाइड मॉडल को 194 Huawei Ascend Atlas A2 एक्सेलेरेटर पर तैनात करती है: इमेज प्रोसेसिंग के लिए दो, संकेतों के लिए 64 और प्रतिक्रियाओं के लिए 128। गाइड में एनवीडिया हार्डवेयर या परिनियोजन का कोई उल्लेख नहीं है। मीटुआन ने एक 4-बिट क्वांटाइज्ड संस्करण भी जारी किया, जिसके बारे में उसका कहना है कि यह 8-बिट संस्करण की तुलना में असंपीड़ित मॉडल के बराबर सटीकता रखता है, जबकि प्रॉम्प्ट-प्रोसेसिंग थ्रूपुट को 43.3 प्रतिशत और प्रतिक्रिया-जनरेशन थ्रूपुट को 42.77 प्रतिशत तक बढ़ाता है।
बेंचमार्क मीटुआन के अपने हैं; अभी तक कोई स्वतंत्र सत्यापन नहीं
मीटुआन ने टर्मिनल-बेंच v2.1 पर 88.4, क्लाउड ओपस 5 के करीब 89.1 और डीपसीक-वी4.1-फ्लैश से नीचे 90.6 की रिपोर्ट दी है। डीपएसडब्ल्यूई पर, वास्तविक कोड रिपॉजिटरी में बग्स को ठीक करने का एक परीक्षण, इसने 64.6 स्कोर किया, जो पिछले संस्करण के लिए 9.7 से तेज वृद्धि है, लेकिन फिर भी 74.2 पर डीपसीक से पीछे है। ये कंपनी के स्वयं के रिपोर्ट किए गए मूल्यांकन हैं, और अभी तक कोई स्वतंत्र बेंचमार्क रन प्रकाशित नहीं किया गया है।
मॉडल का एपीआई ओपनएआई और एंथ्रोपिक प्रारूपों के साथ संगत है और क्लाउड कोड और कोडेक्स सहित एजेंट टूल के साथ काम करता है। लॉन्च मूल्य लगभग €0.27 प्रति मिलियन इनपुट टोकन और €1.07 प्रति मिलियन आउटपुट टोकन है।
(फोटो: एआई चिप की फाइल फोटो।)
N環球 
💬 Comments
No comments yet. Be the first!