SambaNova et Supermicro s'allient pour des baies d'inférence SN50, avec 10 000 puces prévues aux côtés des GPU Nvidia

L'entreprise de puces d'IA SambaNova a annoncé le 3 novembre une collaboration stratégique avec le fabricant de serveurs Supermicro pour construire des baies d'inférence IA propulsées par sa puce SN50 de cinquième génération. Les baies seront proposées dans le cadre des solutions Data Center Building Block de Supermicro, avec des unités à flux de données reconfigurables (RDU) de SambaNova fonctionnant aux côtés des GPU Nvidia dans les mêmes systèmes ; la collaboration prévoit initialement 10 000 puces SN50. (La photo de couverture est une photo d'archive de baies de centre de données, et non des produits des deux entreprises.)

Supermicro construit les systèmes ; SambaNova optimise les modèles

Selon l'accord, Supermicro intégrera, testera, livrera et assurera le support des systèmes, y compris le service sur site, tandis que les ingénieurs de SambaNova aideront les clients à mettre leurs modèles en service, à les optimiser et à soutenir les déploiements. Les entreprises décrivent ces systèmes comme une architecture d'inférence désagrégée, répartissant le travail d'inférence entre des puces dédiées et des GPU plutôt que de tout faire tourner sur des GPU.

SN50 : une puce de cinquième génération conçue pour l'inférence

La SN50 est l'unité à flux de données reconfigurables de cinquième génération de SambaNova, spécialement conçue pour l'inférence haute performance. Les entreprises n'ont divulgué ni prix, ni calendrier de livraison, ni premiers clients, ni chiffres de performance mesurés des systèmes basés sur la SN50 par rapport aux systèmes tout-GPU ; l'annonce porte sur le développement des produits et la planification de l'offre, et non sur une échelle déjà déployée.