NVIDIA випускає тести Vera CPU, стверджуючи, що швидкість агента вдвічі перевищує швидкість x86

NVIDIA 5 листопада опублікувала нові результати тестування для свого процесора Vera CPU, розробленого для навантажень агентського штучного інтелекту. Компанія заявила, що в порівнянні з дата-центром потужністю 100 мегават Vera забезпечила вдвічі більшу швидкість виконання агентів, ніж найбільш енергоефективний процесор x86, і в 1,6 рази більше одночасно запущених агентів на ват, ніж найшвидший процесор x86.

Перші тести клієнтів: Perplexity повідомляє приблизно в 1,5 рази швидше

NVIDIA навела результати тестів кількох перших користувачів. Perplexity повідомила, що Vera запускала робочі процеси в комп’ютерному стилі приблизно в 1,5 рази швидше, ніж поточний робочий еталон у тестах робочого стилю, і запускала одночасні пісочниці до 1,9 разів швидше, і планує розгорнути Vera в майбутній робочій системі. DeepInfra виміряла кроки оркестровки на голому металі на рівні 29 мілісекунд на Vera проти 35 мілісекунд на AMD Zen 5, 51 на Intel Granite Rapids і 64 на Sapphire Rapids.

Daytona повідомила, що Vera підготувала 1000 пісочниць за 10,8 секунди, у порівнянні з 32,3 секундами для EPYC 9575F від AMD і 88,4 секундами для EPYC 9755. DuckDB повідомила, що Vera працювала в 1,53–1,61 рази швидше в тесті потужності та в 1,37–1,41 рази швидше в тесті пропускної здатності, ніж Intel. Базовий рівень Xeon 6.

88-ядерний дизайн Arm, спрямований на агентні обчислення

Vera використовує 88 спеціальних ядер Olympus, які забезпечують 176 потоків через просторову багатопотоковість, пропускну здатність пам’яті LPDDR5X до 1,2 ТБ/с і пам’ять до 1,5 ТБ. Він може служити центральним процесором у системах Vera Rubin або автономним процесором для агентного штучного інтелекту, навчання підкріплення, обробки даних і аналітики. NVIDIA заявила, що агентські робочі навантаження постійно перемикаються між міркуваннями GPU та виконанням інструментів CPU, що робить традиційний хост-процесор x86 вузьким місцем, для усунення якого Vera була перероблена.

Наведені вище цифри отримані з тестів, опублікованих NVIDIA та її партнерами, а не з незалежних порівнянь третьої сторони, і NVIDIA не розкрила ціну Vera. Платформа Vera Rubin розпочала повне виробництво 21 жовтня, а з 27 жовтня Oracle пропонує системи Vera Rubin NVL72 у своїй хмарі.

(Зображення: Kad8)