NVIDIA는 Vera CPU 벤치마크를 출시하고 x86보다 에이전트 속도가 2배 더 빠르다고 주장합니다.

NVIDIA는 11월 5일 에이전트 AI 워크로드용으로 설계된 프로세서인 Vera CPU에 대한 새로운 벤치마크 결과를 발표했습니다. 회사는 100메가와트 데이터 센터 비교에서 Vera가 가장 에너지 효율적인 x86 프로세서보다 2배 더 빠른 에이전트 실행 속도를 제공하고 가장 빠른 x86 프로세서보다 와트당 1.6배 더 많은 동시 실행 에이전트를 제공했다고 밝혔습니다.

초기 고객 테스트: Perplexity가 약 1.5배 더 빠르게 보고합니다.

NVIDIA는 여러 초기 사용자의 테스트 결과를 인용했습니다. Perplexity는 Vera가 프로덕션 스타일 테스트에서 현재 프로덕션 참조보다 약 1.5배 빠르게 컴퓨터 스타일 워크플로를 실행했으며 동시 샌드박스를 최대 1.9배 빠르게 시작했으며 향후 프로덕션 시스템에 Vera를 배포할 계획이라고 밝혔습니다. DeepInfra는 Vera에서 29밀리초로 베어 메탈 오케스트레이션 단계를 측정했으며, AMD Zen 5에서는 35밀리초, Intel Granite Rapids에서는 51밀리초, Sapphire Rapids에서는 64밀리초를 기록했습니다.

Daytona는 Vera가 10.8초 만에 1,000개의 샌드박스를 준비했다고 보고했는데, 이는 AMD의 EPYC 9575F의 경우 32.3초, EPYC 9755의 경우 88.4초였습니다. DuckDB는 Vera가 Intel Xeon 6 기준보다 전력 테스트에서 1.53~1.61배, 처리량 테스트에서 1.37~1.41배 더 빠르게 실행되었다고 보고했습니다.

에이전트 컴퓨팅을 목표로 한 88코어 Arm 디자인

Vera는 88개의 맞춤형 Olympus 코어를 사용하여 공간 멀티스레딩을 통해 최대 1.2TB/s의 LPDDR5X 메모리 대역폭과 최대 1.5TB의 메모리를 갖춘 176개의 스레드를 제공합니다. Vera Rubin 시스템에서 호스트 CPU 역할을 하거나 에이전트 AI, 강화 학습, 데이터 처리 및 분석을 위한 독립형 프로세서 역할을 할 수 있습니다. NVIDIA는 에이전트 워크로드가 GPU 추론과 CPU 도구 실행 사이를 지속적으로 전환하여 Vera가 제거하도록 재설계한 기존 x86 호스트 프로세서의 병목 현상을 만들었다고 말했습니다.

위 수치는 독립적인 제3자 비교가 아닌 NVIDIA와 해당 파트너가 게시한 테스트에서 나온 것이며 NVIDIA는 Vera의 가격을 공개하지 않았습니다. Vera Rubin 플랫폼은 10월 21일에 정식 생산에 들어갔고 Oracle은 10월 27일부터 클라우드에서 Vera Rubin NVL72 시스템을 제공했습니다.

(이미지 : Kad8)