एनवीडिया ने एंटरप्राइज एजेंटों और स्थानीय एआई पीसी के लिए नेमोट्रॉन 3.5 ओपन मॉडल लॉन्च किया

पूरी रिपोर्ट

15 अक्टूबर को, एनवीडिया ने ऑलवेज-ऑन एजेंटों और एज कंप्यूटिंग के लिए निर्मित ओपन-वेट मॉडल के नेमोट्रॉन 3.5 परिवार को जारी किया। फ्लैगशिप, नेमोट्रॉन 3.5 सुपर वीएल, विशेषज्ञों के मिश्रण वाले आर्किटेक्चर में 120 बिलियन पैरामीटर्स को पैक करता है जो प्रति टोकन केवल 12 बिलियन पैरामीटर्स को सक्रिय करता है। एनवीडिया का कहना है कि यह निर्देश-अनुसरण और टूल-उपयोग एजेंट कार्यों पर अपने बड़े तर्क मॉडल, नेमोट्रॉन 3 अल्ट्रा की सटीकता से मेल खाता है।

कंपनी का यह भी दावा है कि सुपर वीएल एंथ्रोपिक और ओपनएआई (ओपस 5, जीपीटी 6.1 सोल) के तुलनीय मॉडलों की तुलना में पोस्ट-प्रशिक्षित एजेंटिक कार्यों को तेजी से पूरा करता है और 5x थ्रूपुट के साथ कृत्रिम विश्लेषण लीडरबोर्ड पर अपनी कक्षा में शीर्ष पर है - इस तरह का दावा जो हर विक्रेता के लॉन्च के साथ होता है और स्वतंत्र सत्यापन की आवश्यकता होती है। एनवीडिया स्काईडांस, ईवाई, रैम्प, क्राउडस्ट्राइक, पर्प्लेक्सिटी और सेल्सफोर्स सहित शुरुआती एंटरप्राइज़ उपयोगकर्ताओं को सूचीबद्ध करता है; मॉडल हगिंग फेस, ओपनराउटर, मॉडलस्कोप और एनवीआईडीआईए एनआईएम पर उपलब्ध है।

दो हल्के बोल्ट मॉडल स्थानीय गणना को लक्षित करते हैं: नेमोट्रॉन 3.5 बोल्ट 74बी-ए9बी 24 जीबी मेमोरी में फिट होने के लिए देशी 2-बिट क्वांटाइजेशन का उपयोग करता है और एनवीडिया आरटीएक्स स्पार्क चिप्स और डीजीएक्स स्पार्क वर्कस्टेशन के साथ नए एआई पीसी पर स्थानीय रूप से एजेंट कार्यों (मल्टी-स्टेप रीजनिंग, टूल कॉलिंग, वेब ब्राउजिंग) को चलाता है, जो अब माइक्रोसॉफ्ट और डेल सहित भागीदारों के माध्यम से शिपिंग करता है। आवाज सहायकों और संवादी एजेंटों के उद्देश्य से छोटा बोल्ट E4B (4GB), इस महीने के अंत में आएगा।

एनवीडिया के ओपन मॉडल और सॉफ्टवेयर के उपाध्यक्ष, कारी ब्रिस्की ने कहा: "कोई भी संगठन जो एनवीडिया इंफ्रास्ट्रक्चर पर एजेंट चलाना चाहता है, उसके पास अब क्षमता और तैनाती के बीच चयन किए बिना अपने स्तर के लिए एक खुला, अनुकूलित मॉडल है।"