NVIDIA публикует тесты процессоров Vera и заявляет о двукратном увеличении скорости агента по сравнению с x86

5 ноября компания NVIDIA опубликовала новые результаты тестов своего процессора Vera CPU, предназначенного для агентных рабочих нагрузок искусственного интеллекта. Компания заявила, что при сравнении центров обработки данных мощностью 100 мегаватт Vera обеспечила вдвое большую скорость выполнения агентов, чем самый энергоэффективный процессор x86, и в 1,6 раза больше одновременно работающих агентов на ватт, чем самый быстрый процессор x86.

Ранние тесты клиентов: отчеты Perplexity примерно в 1,5 раза быстрее

NVIDIA привела результаты тестов нескольких первых пользователей. В Perplexity заявили, что Vera запускала рабочие процессы в компьютерном стиле примерно в 1,5 раза быстрее, чем ее текущий эталонный продукт в тестах производственного стиля, и запускала параллельные песочницы до 1,9 раз быстрее, а также планирует развернуть Vera в будущей производственной системе. DeepInfra измерила время оркестровки на «голом железе» на уровне 29 миллисекунд на Vera, против 35 миллисекунд на AMD Zen 5, 51 миллисекунды на Intel Granite Rapids и 64 миллисекунды на Sapphire Rapids.

Daytona сообщила, что Vera подготовила 1000 песочниц за 10,8 секунды по сравнению с 32,3 секунды для AMD EPYC 9575F и 88,4 секунды для EPYC 9755. DuckDB сообщила, что Vera работала в 1,53–1,61 раза быстрее в тесте мощности и в 1,37–1,41 раза быстрее в тесте пропускной способности, чем базовый Intel Xeon 6.

88-ядерный дизайн Arm, предназначенный для агентных вычислений

Vera использует 88 специализированных ядер Olympus, обеспечивающих 176 потоков посредством пространственной многопоточности, с пропускной способностью памяти LPDDR5X до 1,2 ТБ/с и памятью до 1,5 ТБ. Он может служить центральным процессором в системах Vera Rubin или автономным процессором для агентного искусственного интеллекта, обучения с подкреплением, обработки данных и аналитики. NVIDIA заявила, что агентные рабочие нагрузки постоянно переключаются между рассуждениями графического процессора и выполнением инструментов центрального процессора, что делает традиционный хост-процессор x86 узким местом, для устранения которого была перепроектирована Vera.

Приведенные выше цифры взяты из тестов, опубликованных NVIDIA и ее партнерами, а не из независимых сторонних сравнений, и NVIDIA не раскрыла цену Vera. Платформа Vera Rubin была запущена в полную эксплуатацию 21 октября, а с 27 октября Oracle предлагает системы Vera Rubin NVL72 в своем облаке.

(Изображение: Кад8)