N環球 N GLOBE
美國・科技

Thinking Machines 發布開源模型 Inkling 2 Mini 32GB Mac 也能本地運行

· N GLOBE

米拉·穆拉蒂領導的 Thinking Machines Lab 發布開源模型 Inkling 2 Mini:總參數 264 億、體積約 20GB,可在 32GB 記憶體的 Mac 或一台 DGX Spark 上本地運行,授權為 Apache 2.0。

米拉·穆拉蒂(Mira Murati)領導的 Thinking Machines Lab 於 11 月 20 日發布開源模型 Inkling 2 Mini,主打「筆記本就能跑」:模型總參數 264 億、體積約 20GB,可在 32GB 記憶體的 Mac 或一台 DGX Spark 上本地運行,授權為 Apache 2.0。

循環架構:用更少參數想更多

Inkling 2 Mini 採用循環 Transformer 架構:24 層之中,中間 12 層每個 token 會重複運算 3 次,讓模型以較少參數「多想幾遍」;每 token 實際激活 34 億參數,計入循環為 54 億有效參數,上下文長度達 100 萬 token。

性能與授權

在 SWE-bench Verified 測試中,Inkling 2 Mini 取得 79.2%,在 1,000 億參數以下的開源模型中,代理式編程(agentic coding)表現領先。本月稍早,該公司已開放 Inkling 2 Small 的模型權重;Mini 是定位更輕量的新成員,面向需要在本地或受限環境部署的開發者。

💬 留言

暫時還沒有留言,來搶沙發!