N環球 N GLOBE
美国・科技

Thinking Machines 发布开源模型 Inkling 2 Mini 32GB Mac 也能本地运行

· N GLOBE

米拉·穆拉蒂领导的 Thinking Machines Lab 发布开源模型 Inkling 2 Mini:总参数 264 亿、体积约 20GB,可在 32GB 记忆体的 Mac 或一台 DGX Spark 上本地运行,授权为 Apache 2.0。

米拉·穆拉蒂(Mira Murati)领导的 Thinking Machines Lab 于 11 月 20 日发布开源模型 Inkling 2 Mini,主打「笔记本就能跑」:模型总参数 264 亿、体积约 20GB,可在 32GB 记忆体的 Mac 或一台 DGX Spark 上本地运行,授权为 Apache 2.0。

循环架构:用更少参数想更多

Inkling 2 Mini 采用循环 Transformer 架构:24 层之中,中间 12 层每个 token 会重复运算 3 次,让模型以较少参数「多想几遍」;每 token 实际激活 34 亿参数,计入循环为 54 亿有效参数,上下文长度达 100 万 token。

性能与授权

在 SWE-bench Verified 测试中,Inkling 2 Mini 取得 79.2%,在 1,000 亿参数以下的开源模型中,代理式编程(agentic coding)表现领先。本月稍早,该公司已开放 Inkling 2 Small 的模型权重;Mini 是定位更轻量的新成员,面向需要在本地或受限环境部署的开发者。

💬 留言

暂时还没有留言,来抢沙发!