59 片晶圆才装得下一颗 3 兆参数模型：Cerebras 公布 Kimi K3 部署算式

模型越大，装它的硬体帐单也越大。AI 晶片公司 Cerebras 在 10 月 22 日的技术文章里算了一笔帐：要把月之暗面（Moonshot AI）约 3 兆参数的 Kimi K3 模型装进自家晶圆级晶片、真正跑起来服务用户，总共需要 59 片晶圆。这不是一台机器的规格，而是一整套硬体布局的设计方案。

59 这个数字怎么来的

先算存模型的帐：Cerebras 假设每个参数以 4 位元压缩储存，3 兆参数光是权重就约 1.5 TB；每片晶圆有 44 GB 片上记忆体，只装权重、还没算用户请求的工作状态，最少就要约 35 片。Kimi K3 共有 93 层：69 层线性注意力层、24 层密集注意力层。密集注意力层要存随请求长度增长的 KV 快取，Cerebras 给每层各配一片晶圆；线性注意力层每片放两层、共用 35 片；两者相加正好 59 片。文中另以 8 位元 KV 快取、平均请求 25.6 万 token 为假设计算，并称这类多兆参数模型输出速度可达每秒 1,000 至 2,000 个 token 以上。

先说清楚：这还不是实测成绩

必须划清界线：Cerebras 尚未证明这套 Kimi K3 布局真的跑过，也没有公布完整的测试条件、实测功耗或同时服务多少用户的数字；所谓每秒 1,000 至 2,000 个 token 是公司对这类模型的宣传速度，不是这套布局的实测结果。公司自己也承认，单看批量与并发量不能证明推理效率，真正的检验标准应是相同输出速度下的每单位功耗 token 数。另外，Cerebras 是把 Kimi K3 约算为 3 兆参数，阿里云的模型文件标示为 2.8 兆、上下文窗口 100 万 token——那是模型能力的上限，与算式里假设的平均请求长度是两回事。

这套方法的先例是 Cerebras 此前为 GPT-5.6 Sol 做的多系统管线，宣传速度最高每秒 750 个 token；那是方法的先例，不是 Kimi K3 的成绩单。要让 59 片晶圆的说法站得住，下一份要交的应是同一套假设下的实测：模型与精度、请求长度与负载、硬体数量、速度与功耗一起公布。