N環球 N GLOBE
中國・科技

2.8兆參數 Kimi K3 裝進一台伺服器 Skymizer 聯手 MiTAC 在 SC26 展示

· N GLOBE

Skymizer 與 MiTAC 今日宣布,將在 SC26 展示 Moonshot AI 的 Kimi K3(2.8 兆參數混合專家模型)在一台配備 8 張 HTX301 晶片的風冷伺服器上運行,2TB 記憶體容納約 1.56TB 模型權重。

Skymizer 與 MiTAC Computing 今日(11月5日)宣布,將在超算大會 SC26 上聯合展示 Moonshot AI 的 Kimi K3——一個 2.8 兆參數的混合專家(MoE)模型——在一台配備 8 張 Skymizer HTX301 語言處理單元(LPU)晶片、2TB 卡載記憶體的 MiTAC 風冷伺服器上運行。(圖片為資料圖片:數據中心示意。)

一台風冷伺服器裝下 2.8 兆參數

Kimi K3 採用原生 MXFP4(量化感知訓練)權重,模型權重集約 1.56TB;2TB 的記憶體配置正是為容納這套權重並留出 KV 快取空間而設計。Skymizer 表示,最終記憶體分配與支援的工作負載仍待工程驗證。

從 COMPUTEX 的 300 億參數到兆級模型

這次展示延續了 Skymizer 在 2026 年 6 月台北國際電腦展(COMPUTEX 2026)上的成果,當時展示了 300 億參數的多模態混合專家模型 Qwen3-VL-30B-A3B。Skymizer 技術長 Luba Tang 表示,團隊正把當時的工作延伸到為 Kimi K3 設計的單伺服器配置,「LISA 提供共通的指令集與工具鏈,讓我們得以發展兆級模型所需的記憶體常駐與排程能力。」

瞄準企業本地部署

Skymizer 行銷長 William Wei 表示,企業希望對自家 AI 服務背後的模型、數據與基礎設施有更大掌控,「我們與 MiTAC 的合作,是要讓更大的開放權重模型在本地部署變得更實際。」MiTAC 方面表示,雙方合作探索 Prefill–Decode 分離與優化的 AI 推論部署。目標應用包括金融、醫療、政府、製造與半導體設計等重視數據治理的領域。

晶片明年第一季投產

HTX301 晶片預計 2027 年第一季開始量產,伺服器平台的開發與驗證仍在進行,抽樣與更廣泛的商業供貨時間將另行公布。HTX301-4S 單卡功耗約 155 瓦。Skymizer 還將於 11 月 19 至 20 日參加在北京舉行的 ICCAD-Expo 2026,把同一款產品推向中國市場。

(來源:PR Newswire,2026 年 11 月 5 日。)

💬 留言

暫時還沒有留言,來搶沙發!