NVIDIA lança benchmarks de CPU Vera e afirma velocidade de agente 2x em relação a x86

A NVIDIA divulgou em 5 de novembro os resultados dos testes para sua CPU Vera, dizendo que ela oferece o dobro da velocidade de execução do agente do processador x86 com maior eficiência energética em uma comparação de data center de 100 megawatts e 1,6x mais agentes por watt do que o chip x86 mais rápido.
A NVIDIA divulgou em 5 de novembro novos resultados de benchmark para sua CPU Vera, um processador projetado para cargas de trabalho de IA de agente. A empresa disse que em uma comparação de data center de 100 megawatts, o Vera entregou o dobro da velocidade de execução do agente do processador x86 com maior eficiência energética e 1,6 vezes mais agentes em execução simultânea por watt do que o processador x86 mais rápido.
Testes iniciais de clientes: relatórios do Perplexity são cerca de 1,5x mais rápidos
A NVIDIA citou resultados de testes de vários usuários iniciais. Perplexity disse que Vera executou fluxos de trabalho no estilo computador cerca de 1,5 vezes mais rápido do que sua referência de produção atual em testes de estilo de produção e iniciou sandboxes simultâneas até 1,9 vezes mais rápido, e planeja implantar o Vera em um sistema de produção futuro. A DeepInfra mediu as etapas de orquestração bare-metal em 29 milissegundos no Vera, contra 35 milissegundos no AMD Zen 5, 51 no Intel Granite Rapids e 64 no Sapphire Rapids.
Daytona relatou que Vera preparou 1.000 sandboxes em 10,8 segundos, em comparação com 32,3 segundos para o EPYC 9575F da AMD e 88,4 segundos para o EPYC 9755. DuckDB relatou que Vera funcionou 1,53–1,61 vezes mais rápido em seu teste de potência e 1,37–1,41 vezes mais rápido em seu teste de rendimento do que uma linha de base do Intel Xeon 6.
Design Arm de 88 núcleos voltado para computação agente
Vera usa 88 núcleos Olympus personalizados, fornecendo 176 threads por meio de Spatial Multithreading, com até 1,2 TB/s de largura de banda de memória LPDDR5X e até 1,5 TB de memória. Ele pode servir como CPU host em sistemas Vera Rubin ou como processador independente para IA de agente, aprendizado por reforço, processamento de dados e análise. A NVIDIA disse que as cargas de trabalho de agente alternam constantemente entre o raciocínio da GPU e a execução da ferramenta da CPU, tornando o processador host x86 tradicional um gargalo que o Vera foi redesenhado para remover.
Os números acima vêm de testes publicados pela NVIDIA e seus parceiros, não de comparações independentes de terceiros, e a NVIDIA não divulgou o preço do Vera. A plataforma Vera Rubin entrou em plena produção em 21 de outubro, e a Oracle oferece sistemas Vera Rubin NVL72 em sua nuvem desde 27 de outubro.
(Imagem: Kad8)
N環球 
💬 Comments
No comments yet. Be the first!