Inilabas ng Thinking Machines ang bukas na modelong Inkling 2 Mini na lokal na gumagana sa isang laptop

Inilabas ng Thinking Machines Lab ang Inkling 2 Mini, isang open-weights na modelo na may 26.4 bilyong parameter sa humigit-kumulang 20GB na package na maaaring gumana nang lokal sa isang 32GB Mac o isang solong DGX Spark, sa ilalim ng isang Apache 2.0 na lisensya.
Ang Thinking Machines Lab, sa pangunguna ni Mira Murati, ay naglabas ng open-weights na modelo na Inkling 2 Mini noong Nobyembre 20, na itinakda ito bilang isang modelo na lokal na tumatakbo sa isang laptop: 26.4 bilyong kabuuang parameter sa humigit-kumulang 20GB na package, na magagamit sa isang 32GB Mac o isang solong DGX Spark, sa ilalim ng isang Apache 2.0 na lisensya.
Isang naka-loop na arkitektura: mag-isip nang higit na may mas kaunting mga parameter
Gumagamit ang Inkling 2 Mini ng naka-loop na arkitektura ng transformer: sa 24 na layer nito, ang gitnang 12 ay pinapagana nang tatlong beses para sa bawat token, na hinahayaan ang modelo na "mag-isip nang maraming beses" na may mas kaunting mga parameter. Ina-activate nito ang 3.4 bilyong parameter bawat token, o 5.4 bilyong epektibong parameter na nagbibilang ng mga loop, na may haba ng konteksto na 1 milyong token.
Pagganap at paglilisensya
Ang Inkling 2 Mini ay nakakuha ng 79.2% sa SWE-bench Verified, nangunguna sa agentic coding sa mga bukas na modelo na wala pang 100 bilyong parameter. Mas maaga sa buwang ito, open-source ng kumpanya ang mga timbang ng Inkling 2 Small; Ang Mini ay ang mas magaan na bagong miyembro ng pamilya, na naglalayong mga developer na kailangang mag-deploy nang lokal o sa mga limitadong kapaligiran.
N環球 
💬 Comments
No comments yet. Be the first!