Skymizer と MiTAC、SC26 で単一の空冷サーバー上で 2.8 兆パラメータの Kim K3 を実行

Skymizer と MiTAC Computing は、8 枚の HTX301 LPU カードと 2 TB のカード接続メモリを備えた単一の MiTAC サーバー上で実行される、2.8 兆パラメータの専門家混合モデルである Moonshot AI の Kim K3 を展示すると発表しました。
SkymizerとMiTAC Computingは本日(11月5日)、SC26スーパーコンピューティングカンファレンスで、8枚のSkymizer HTX301言語処理ユニット(LPU)カードと2TBのカード付属メモリを搭載した単一のMiTAC空冷サーバー上で動作する、Moonshot AIのKimi K3(2.8兆パラメータの専門家混合(MoE)モデル)を共同で披露すると発表した。 (写真:データセンターのファイルイメージ)
1 台の空冷サーバーで 2 兆 8,000 億のパラメータに対応
Kimi K3 はネイティブ MXFP4 (量子化を意識してトレーニングされた) 重みを使用し、重みセットは約 1.56 TB です。 2 TB のメモリ構成は、KV キャッシュのための余地を残しながら、これらの重みを保持するように設計されています。 Skymizer氏は、最終的なメモリ割り当てとサポートされるワークロードは引き続きエンジニアリング検証の対象であると述べた。
COMPUTEX の 300 億パラメータから兆クラスへ
このショーケースは、6 月の COMPUTEX 2026 での Skymizer のデモンストレーションに基づいており、そこでは 300 億パラメータのマルチモーダル MoE モデルである Qwen3-VL-30B-A3B が展示されました。 Skymizer の最高技術責任者 Luba Tang 氏は、チームは現在、その作業を Kim K3 用に設計された単一サーバー構成に拡張していると述べ、「LISA は、大規模なモデルに必要なメモリ常駐機能とスケジューリング機能を開発する際に、共通の命令セットとツールチェーンを提供します。」と述べました。
エンタープライズのオンプレミス展開を目的としています
Skymizer の最高マーケティング責任者である William Wei 氏は、企業は自社の AI サービスの背後にあるモデル、データ、インフラストラクチャをより強力に制御することを望んでいると述べ、「MiTAC との取り組みは、より大きなオープンウェイト モデルをより実用的にオンプレミスで導入できるようにすることを目的としています。」と述べました。 MiTAC によると、このコラボレーションでは、プリフィルとデコードの分解と最適化された AI 推論の展開が検討されています。対象となる用途には、データガバナンスが中心となる金融サービス、医療、政府、製造、半導体設計などが含まれます。
チップ生産は2027年第1四半期に開始
HTX301 チップの生産は、サーバー プラットフォームの開発と検証が進行中、2027 年の第 1 四半期に開始される予定です。サンプリングおよびより広範な商用利用可能性については、別途発表されます。 HTX301-4S カードのカード レベルの電力数値は約 155 W です。 Skymizerは11月19~20日に北京で開催されるICCAD-Expo 2026にも参加し、同じ製品を中国市場に投入する。
(出典: PR ニュースワイヤー、2026 年 11 月 5 日。)
N環球 
💬 Comments
No comments yet. Be the first!