थिंकिंग मशीन्स ने ओपन मॉडल इंकलिंग 2 मिनी जारी किया है जो स्थानीय रूप से लैपटॉप पर चलता है

थिंकिंग मशीन्स लैब ने इंकलिंग 2 मिनी जारी किया है, जो लगभग 20 जीबी पैकेज में 26.4 बिलियन मापदंडों वाला एक ओपन-वेट मॉडल है जो अपाचे 2.0 लाइसेंस के तहत 32 जीबी मैक या एकल डीजीएक्स स्पार्क पर स्थानीय रूप से चल सकता है।
मीरा मुराती के नेतृत्व में थिंकिंग मशीन्स लैब ने 20 नवंबर को ओपन-वेट मॉडल इंकलिंग 2 मिनी जारी किया, इसे एक ऐसे मॉडल के रूप में पेश किया जो लैपटॉप पर स्थानीय रूप से चलता है: लगभग 20 जीबी पैकेज में 26.4 बिलियन कुल पैरामीटर, अपाचे 2.0 लाइसेंस के तहत 32 जीबी मैक या एकल डीजीएक्स स्पार्क पर चलाने योग्य।
एक लूप्ड आर्किटेक्चर: कम मापदंडों के साथ अधिक सोचें
इंकलिंग 2 मिनी एक लूप्ड ट्रांसफार्मर आर्किटेक्चर का उपयोग करता है: इसकी 24 परतों में से, मध्य 12 को प्रत्येक टोकन के लिए तीन बार चलाया जाता है, जिससे मॉडल को कम मापदंडों के साथ "कई बार सोचने" की सुविधा मिलती है। यह प्रति टोकन 3.4 बिलियन पैरामीटर सक्रिय करता है, या 1 मिलियन टोकन की संदर्भ लंबाई के साथ लूपों की गिनती करने वाले 5.4 बिलियन प्रभावी पैरामीटर सक्रिय करता है।
प्रदर्शन और लाइसेंसिंग
इंकलिंग 2 मिनी ने एसडब्ल्यूई-बेंच सत्यापित पर 79.2% स्कोर किया, जो 100 बिलियन मापदंडों के तहत खुले मॉडलों के बीच अग्रणी एजेंटिक कोडिंग है। इस महीने की शुरुआत में कंपनी ने इंकलिंग 2 स्मॉल के वज़न को ओपन-सोर्स किया था; मिनी परिवार का हल्का नया सदस्य है, जिसका लक्ष्य ऐसे डेवलपर्स हैं जिन्हें स्थानीय या सीमित वातावरण में तैनात करने की आवश्यकता है।
N環球 
💬 Comments
No comments yet. Be the first!