Skymizer và MiTAC để chạy Kimi K3 2,8 nghìn tỷ thông số trên một máy chủ làm mát bằng không khí tại SC26

Skymizer và MiTAC Computing đã thông báo hôm nay (ngày 5 tháng 11) rằng họ sẽ cùng giới thiệu Kimi K3 của Moonshot AI — mô hình hỗn hợp các chuyên gia (MoE) 2,8 nghìn tỷ tham số — chạy trên một máy chủ làm mát bằng không khí MiTAC duy nhất được trang bị tám thẻ Bộ xử lý ngôn ngữ Skymizer HTX301 (LPU) và 2 TB bộ nhớ gắn thẻ, tại hội nghị siêu máy tính SC26. (Ảnh: ảnh tư liệu của một trung tâm dữ liệu.)

Một máy chủ làm mát bằng không khí cho 2,8 nghìn tỷ thông số

Kimi K3 sử dụng trọng số MXFP4 (được đào tạo nhận biết lượng tử hóa) gốc, với tập trọng lượng khoảng 1,56 TB; cấu hình bộ nhớ 2 TB được thiết kế để giữ các trọng lượng đó trong khi vẫn chừa chỗ cho bộ đệm KV. Skymizer cho biết việc phân bổ bộ nhớ cuối cùng và khối lượng công việc được hỗ trợ vẫn phải được xác thực về mặt kỹ thuật.

Từ 30 tỷ tham số tại COMPUTEX đến lớp nghìn tỷ

Buổi giới thiệu được xây dựng dựa trên buổi trình diễn của Skymizer tại COMPUTEX 2026 vào tháng 6, nơi nó trưng bày Qwen3-VL-30B-A3B, một mô hình MoE đa phương thức 30 tỷ tham số. Giám đốc công nghệ của Skymizer, Luba Tang cho biết nhóm hiện đang mở rộng công việc đó sang cấu hình một máy chủ được thiết kế cho Kimi K3: "LISA cung cấp một bộ hướng dẫn và chuỗi công cụ chung khi chúng tôi phát triển khả năng lập lịch và lưu trữ bộ nhớ cần thiết cho các mô hình lớn hơn."

Nhằm mục đích triển khai tại chỗ cho doanh nghiệp

Giám đốc tiếp thị của Skymizer, William Wei, cho biết các doanh nghiệp muốn kiểm soát tốt hơn các mô hình, dữ liệu và cơ sở hạ tầng đằng sau các dịch vụ AI của họ: "Công việc của chúng tôi với MiTAC nhằm mục đích làm cho các mô hình có trọng lượng mở lớn hơn trở nên thiết thực hơn để triển khai tại chỗ." MiTAC cho biết sự hợp tác này nhằm mục đích khám phá khả năng phân chia trước khi giải mã và triển khai suy luận AI được tối ưu hóa. Mục đích sử dụng bao gồm các dịch vụ tài chính, chăm sóc sức khỏe, chính phủ, sản xuất và thiết kế chất bán dẫn, trong đó quản trị dữ liệu là trung tâm.

Quá trình sản xuất chip sẽ bắt đầu vào quý 1 năm 2027

Quá trình sản xuất chip HTX301 dự kiến sẽ bắt đầu vào quý 1 năm 2027, đồng thời quá trình phát triển và xác nhận nền tảng máy chủ đang diễn ra; lấy mẫu và tính khả dụng thương mại rộng hơn sẽ được công bố riêng. Thẻ HTX301-4S có công suất cấp thẻ xấp xỉ 155W. Skymizer cũng sẽ tham gia ICCAD-Expo 2026 tại Bắc Kinh vào ngày 19-20 tháng 11, đưa sản phẩm tương tự đến thị trường Trung Quốc.

(Nguồn: PR Newswire, ngày 5 tháng 11 năm 2026.)