2.8兆参数 Kimi K3 装进一台伺服器 Skymizer 联手 MiTAC 在 SC26 展示

Skymizer 与 MiTAC 今日宣布,将在 SC26 展示 Moonshot AI 的 Kimi K3(2.8 兆参数混合专家模型)在一台配备 8 张 HTX301 晶片的风冷伺服器上运行,2TB 记忆体容纳约 1.56TB 模型权重。
Skymizer 与 MiTAC Computing 今日(11月5日)宣布,将在超算大会 SC26 上联合展示 Moonshot AI 的 Kimi K3——一个 2.8 兆参数的混合专家(MoE)模型——在一台配备 8 张 Skymizer HTX301 语言处理单元(LPU)晶片、2TB 卡载记忆体的 MiTAC 风冷伺服器上运行。(图片为资料图片:数据中心示意。)
一台风冷伺服器装下 2.8 兆参数
Kimi K3 采用原生 MXFP4(量化感知训练)权重,模型权重集约 1.56TB;2TB 的记忆体配置正是为容纳这套权重并留出 KV 快取空间而设计。Skymizer 表示,最终记忆体分配与支援的工作负载仍待工程验证。
从 COMPUTEX 的 300 亿参数到兆级模型
这次展示延续了 Skymizer 在 2026 年 6 月台北国际电脑展(COMPUTEX 2026)上的成果,当时展示了 300 亿参数的多模态混合专家模型 Qwen3-VL-30B-A3B。Skymizer 技术长 Luba Tang 表示,团队正把当时的工作延伸到为 Kimi K3 设计的单伺服器配置,「LISA 提供共通的指令集与工具链,让我们得以发展兆级模型所需的记忆体常驻与排程能力。」
瞄准企业本地部署
Skymizer 行销长 William Wei 表示,企业希望对自家 AI 服务背后的模型、数据与基础设施有更大掌控,「我们与 MiTAC 的合作,是要让更大的开放权重模型在本地部署变得更实际。」MiTAC 方面表示,双方合作探索 Prefill–Decode 分离与优化的 AI 推论部署。目标应用包括金融、医疗、政府、制造与半导体设计等重视数据治理的领域。
晶片明年第一季投产
HTX301 晶片预计 2027 年第一季开始量产,伺服器平台的开发与验证仍在进行,抽样与更广泛的商业供货时间将另行公布。HTX301-4S 单卡功耗约 155 瓦。Skymizer 还将于 11 月 19 至 20 日参加在北京举行的 ICCAD-Expo 2026,把同一款产品推向中国市场。
(来源:PR Newswire,2026 年 11 月 5 日。)
N環球 
💬 留言
暂时还没有留言,来抢沙发!