Skymizer와 MiTAC, SC26의 단일 공냉식 서버에서 2조 8천억 매개변수 Kimi K3 실행

Skymizer와 MiTAC Computing은 오늘(11월 5일) SC26 슈퍼컴퓨팅 컨퍼런스에서 8개의 Skymizer HTX301 LPU(언어 처리 장치) 카드와 2TB의 카드 장착 메모리가 장착된 단일 MiTAC 공냉식 서버에서 실행되는 2.8조 매개변수 MoE(혼합 전문가) 모델인 Moonshot AI의 Kimi K3를 공동으로 선보일 예정이라고 발표했습니다. (사진: 데이터센터 파일 이미지.)

2조 8천억 개의 매개변수를 위한 공냉식 서버 1대

Kimi K3는 약 1.56TB의 가중치 세트와 함께 기본 MXFP4(양자화 인식 훈련) 가중치를 사용합니다. 2TB 메모리 구성은 KV 캐시를 위한 공간을 남겨두면서 이러한 무게를 유지하도록 설계되었습니다. Skymizer는 최종 메모리 할당 및 지원되는 작업 부하가 여전히 엔지니어링 검증의 대상이라고 말했습니다.

COMPUTEX의 300억개 매개변수부터 1조개 클래스까지

이번 쇼케이스는 지난 6월 COMPUTEX 2026에서 300억 매개변수 다중 모드 MoE 모델인 Qwen3-VL-30B-A3B를 선보였던 Skymizer의 시연을 기반으로 합니다. Skymizer의 최고 기술 책임자인 Luba Tang은 팀이 이제 Kimi K3용으로 설계된 단일 서버 구성으로 해당 작업을 확장하고 있다고 말했습니다. "LISA는 대규모 모델에 필요한 메모리 상주 및 예약 기능을 개발할 때 공통 명령 세트와 도구 체인을 제공합니다."

엔터프라이즈 온프레미스 배포를 목표로 함

Skymizer의 최고 마케팅 책임자인 William Wei는 기업이 AI 서비스 뒤에 있는 모델, 데이터 및 인프라에 대한 더 큰 통제권을 원한다고 말했습니다. "MiTAC과의 협력은 더 큰 개방형 모델을 온프레미스에 보다 실용적으로 배포하는 것을 목표로 합니다." MiTAC은 이번 협력을 통해 사전 채우기-디코드 분해와 최적화된 AI 추론 배포를 탐구한다고 밝혔습니다. 대상 용도에는 데이터 거버넌스가 핵심인 금융 서비스, 의료, 정부, 제조 및 반도체 설계가 포함됩니다.

2027년 1분기부터 칩 생산 시작

HTX301 칩 생산은 2027년 1분기에 시작될 예정이며 서버 플랫폼의 개발 및 검증이 진행 중입니다. 샘플링 및 더 광범위한 상용화 여부는 별도로 발표될 예정입니다. HTX301-4S 카드의 전력 수치는 약 155W입니다. Skymizer는 또한 11월 19~20일 베이징에서 열리는 ICCAD-Expo 2026에 참가하여 동일한 제품을 중국 시장에 선보일 예정입니다.

(출처: PR Newswire, 2026년 11월 5일.)