Thinking Machines প্রকাশ করে ওপেন মডেল Inkling 2 Mini যা স্থানীয়ভাবে একটি ল্যাপটপে চলে

Thinking Machines Lab প্রকাশ করেছে Inkling 2 Mini, একটি ওপেন-ওয়েট মডেল যার 26.4 বিলিয়ন প্যারামিটার রয়েছে একটি মোটামুটি 20GB প্যাকেজে যা একটি Apache 2.0 লাইসেন্সের অধীনে একটি 32GB Mac বা একটি একক DGX Spark-এ স্থানীয়ভাবে চলতে পারে।
থিংকিং মেশিন ল্যাব, মীরা মুরাতির নেতৃত্বে, 20 নভেম্বর ওপেন-ওয়েট মডেল Inkling 2 Mini প্রকাশ করে, এটিকে একটি মডেল হিসাবে পিচ করে যা স্থানীয়ভাবে একটি ল্যাপটপে চলে: মোটামুটি 20GB প্যাকেজে 26.4 বিলিয়ন মোট প্যারামিটার, একটি 32GB ম্যাক বা একটি একক DGX স্পার্ক, একটি A0002 এর অধীনে চালানো যায়৷
একটি লুপ করা আর্কিটেকচার: কম প্যারামিটারের সাথে আরও চিন্তা করুন
ইনকলিং 2 মিনি একটি লুপড ট্রান্সফরমার আর্কিটেকচার ব্যবহার করে: এর 24টি স্তরের মধ্যে, মাঝামাঝি 12টি প্রতিটি টোকেনের জন্য তিনবার চালানো হয়, মডেলটিকে কম পরামিতি সহ "অনেকবার চিন্তা করতে" দেয়। এটি প্রতি টোকেন 3.4 বিলিয়ন প্যারামিটার সক্রিয় করে, বা 5.4 বিলিয়ন কার্যকরী প্যারামিটার লুপ গণনা করে, যার প্রসঙ্গ দৈর্ঘ্য 1 মিলিয়ন টোকেন।
কর্মক্ষমতা এবং লাইসেন্সিং
Inkling 2 Mini SWE-বেঞ্চ ভেরিফাইয়ে 79.2% স্কোর করেছে, 100 বিলিয়ন প্যারামিটারের অধীনে খোলা মডেলগুলির মধ্যে অগ্রণী এজেন্টিক কোডিং। এই মাসের শুরুর দিকে কোম্পানী Inkling 2 Small এর ওজন ওপেন সোর্স করেছে; মিনি হল পরিবারের হালকা নতুন সদস্য, যার লক্ষ্য ডেভেলপারদের জন্য যাদের স্থানীয়ভাবে বা সীমাবদ্ধ পরিবেশে স্থাপন করতে হবে।
N環球 
💬 Comments
No comments yet. Be the first!