NVIDIA phát hành điểm chuẩn CPU Vera, tuyên bố tốc độ tác nhân gấp 2 lần so với x86

NVIDIA vào ngày 5 tháng 11 đã công bố kết quả điểm chuẩn mới cho CPU Vera của mình, bộ xử lý được thiết kế cho khối lượng công việc AI tác nhân. Công ty cho biết trong một so sánh trung tâm dữ liệu 100 megawatt, Vera mang lại tốc độ thực thi tác nhân gấp đôi so với bộ xử lý x86 tiết kiệm năng lượng nhất và gấp 1,6 lần các tác nhân chạy đồng thời trên mỗi watt so với bộ xử lý x86 nhanh nhất.

Kiểm tra khách hàng sớm: Báo cáo bối rối nhanh hơn khoảng 1,5 lần

NVIDIA trích dẫn kết quả thử nghiệm từ một số người dùng đầu tiên. Perplexity cho biết Vera đã chạy các quy trình làm việc kiểu Máy tính nhanh hơn khoảng 1,5 lần so với tham chiếu sản xuất hiện tại trong các thử nghiệm kiểu sản xuất và bắt đầu các hộp cát đồng thời nhanh hơn tới 1,9 lần, đồng thời có kế hoạch triển khai Vera trong hệ thống sản xuất sắp tới. DeepInfra đã đo các bước điều phối kim loại trần ở mức 29 mili giây trên Vera, so với 35 mili giây trên AMD Zen 5, 51 trên Intel Granite Rapids và 64 trên Sapphire Rapids.

Daytona báo cáo rằng Vera đã chuẩn bị 1.000 hộp cát trong 10,8 giây, so với 32,3 giây đối với EPYC 9575F của AMD và 88,4 giây đối với EPYC 9755. DuckDB báo cáo rằng Vera chạy nhanh hơn 1,53–1,61 lần trong bài kiểm tra sức mạnh và nhanh hơn 1,37–1,41 lần trong bài kiểm tra thông lượng so với đường cơ sở Intel Xeon 6.

Thiết kế Arm 88 lõi nhằm vào tính toán tác nhân

Vera sử dụng 88 lõi Olympus tùy chỉnh, cung cấp 176 luồng thông qua Đa luồng không gian, với băng thông bộ nhớ LPDDR5X lên tới 1,2 TB/s và bộ nhớ lên tới 1,5 TB. Nó có thể đóng vai trò là CPU chủ trong hệ thống Vera Rubin hoặc như một bộ xử lý độc lập cho AI tác nhân, học tăng cường, xử lý và phân tích dữ liệu. NVIDIA cho biết khối lượng công việc tác nhân liên tục chuyển đổi giữa lý luận GPU và thực thi công cụ CPU, khiến bộ xử lý máy chủ x86 truyền thống trở thành nút thắt cổ chai mà Vera đã được thiết kế lại để loại bỏ.

Những số liệu trên đến từ các thử nghiệm do NVIDIA và các đối tác công bố chứ không phải từ các so sánh độc lập của bên thứ ba và NVIDIA cũng chưa tiết lộ mức giá cho Vera. Nền tảng Vera Rubin được đưa vào sản xuất đầy đủ vào ngày 21 tháng 10 và Oracle đã cung cấp các hệ thống Vera Rubin NVL72 trên đám mây của mình kể từ ngày 27 tháng 10.

(Ảnh: Kad8)