N環球 N GLOBE
امریکی ٹیکنالوجی

Thinking Machines کھلا ماڈل Inkling 2 Mini جاری کرتا ہے جو مقامی طور پر لیپ ٹاپ پر چلتا ہے۔

· N GLOBE

Thinking Machines Lab نے Inkling 2 Mini جاری کیا ہے، جو تقریباً 20GB پیکیج میں 26.4 بلین پیرامیٹرز کے ساتھ ایک اوپن ویٹ ماڈل ہے جو Apache 2.0 لائسنس کے تحت مقامی طور پر 32GB Mac یا ایک DGX Spark پر چل سکتا ہے۔

میرا مورتی کی سربراہی میں تھنکنگ مشینز لیب نے 20 نومبر کو اوپن ویٹ ماڈل انکلنگ 2 منی کو جاری کیا، اسے ایک ایسے ماڈل کے طور پر پیش کیا جو مقامی طور پر لیپ ٹاپ پر چلتا ہے: تقریباً 20GB پیکیج میں 26.4 بلین کل پیرامیٹرز، جو 32GB Mac یا واحد DGX Spark پر چلائے جا سکتے ہیں، A A0002 کے تحت۔

ایک لوپڈ فن تعمیر: کم پیرامیٹرز کے ساتھ زیادہ سوچیں۔

انکلنگ 2 منی ایک لوپڈ ٹرانسفارمر فن تعمیر کا استعمال کرتا ہے: اس کی 24 تہوں میں سے، درمیانی 12 ہر ٹوکن کے لیے تین بار چلائی جاتی ہیں، جس سے ماڈل کو کم پیرامیٹرز کے ساتھ "کئی بار سوچنے" کی اجازت ملتی ہے۔ یہ 3.4 بلین پیرامیٹرز فی ٹوکن، یا 5.4 بلین موثر پیرامیٹرز کو فعال کرتا ہے جو لوپس کی گنتی کرتے ہیں، جس کی سیاق و سباق کی لمبائی 1 ملین ٹوکنز ہے۔

کارکردگی اور لائسنسنگ

Inkling 2 Mini نے SWE-bench Verified پر 79.2% اسکور کیا، جو 100 بلین پیرامیٹرز سے کم کھلے ماڈلز میں ایجنٹی کوڈنگ میں سرفہرست ہے۔ اس مہینے کے شروع میں کمپنی نے انکلنگ 2 سمال کے وزن کو اوپن سورس کیا۔ Mini خاندان کا ہلکا نیا رکن ہے، جس کا مقصد ڈویلپرز ہیں جنہیں مقامی طور پر یا محدود ماحول میں تعینات کرنے کی ضرورت ہے۔

💬 Comments

No comments yet. Be the first!