59 片晶圓才裝得下一顆 3 兆參數模型：Cerebras 公布 Kimi K3 部署算式

模型越大，裝它的硬體帳單也越大。AI 晶片公司 Cerebras 在 10 月 22 日的技術文章裡算了一筆帳：要把月之暗面（Moonshot AI）約 3 兆參數的 Kimi K3 模型裝進自家晶圓級晶片、真正跑起來服務用戶，總共需要 59 片晶圓。這不是一台機器的規格，而是一整套硬體佈局的設計方案。

59 這個數字怎麼來的

先算存模型的帳：Cerebras 假設每個參數以 4 位元壓縮儲存，3 兆參數光是權重就約 1.5 TB；每片晶圓有 44 GB 片上記憶體，只裝權重、還沒算用戶請求的工作狀態，最少就要約 35 片。Kimi K3 共有 93 層：69 層線性注意力層、24 層密集注意力層。密集注意力層要存隨請求長度增長的 KV 快取，Cerebras 給每層各配一片晶圓；線性注意力層每片放兩層、共用 35 片；兩者相加正好 59 片。文中另以 8 位元 KV 快取、平均請求 25.6 萬 token 為假設計算，並稱這類多兆參數模型輸出速度可達每秒 1,000 至 2,000 個 token 以上。

先說清楚：這還不是實測成績

必須劃清界線：Cerebras 尚未證明這套 Kimi K3 佈局真的跑過，也沒有公布完整的測試條件、實測功耗或同時服務多少用戶的數字；所謂每秒 1,000 至 2,000 個 token 是公司對這類模型的宣傳速度，不是這套佈局的實測結果。公司自己也承認，單看批量與併發量不能證明推理效率，真正的檢驗標準應是相同輸出速度下的每單位功耗 token 數。另外，Cerebras 是把 Kimi K3 約算為 3 兆參數，阿里雲的模型文件標示為 2.8 兆、上下文窗口 100 萬 token——那是模型能力的上限，與算式裡假設的平均請求長度是兩回事。

這套方法的先例是 Cerebras 此前為 GPT-5.6 Sol 做的多系統管線，宣傳速度最高每秒 750 個 token；那是方法的先例，不是 Kimi K3 的成績單。要讓 59 片晶圓的說法站得住，下一份要交的應是同一套假設下的實測：模型與精度、請求長度與負載、硬體數量、速度與功耗一起公布。