La sud-coréenne DeepX finalise la puce d’IA DX-M2 avec la technologie PIM de Samsung, pour 5 watts

La start-up sud-coréenne de puces d’IA embarquée DeepX a finalisé le tape-out de son accélérateur d’IA de deuxième génération, le DX-M2, qui utilise la technologie de calcul en mémoire (PIM) LPDDR5x de Samsung Memory, avec l’objectif de permettre aux robots, aux drones et aux autres appareils en périphérie de faire tourner directement des grands modèles de langage avec seulement 5 watts. Selon EE Times, le 9 novembre, le DX-M2 est conçu pour exécuter des modèles de 20 à 100 milliards de paramètres — environ 3 à 20 milliards de paramètres actifs — à une vitesse de 10 à 30 jetons par seconde.

Bande passante mémoire triplée ; les simulations prévoient 6,7 fois plus de vitesse

Par rapport au DX-M1 de première génération, le DX-M2 triple la bande passante mémoire, de 50 à 150 Go/s ; l’efficacité énergétique de son unité de traitement neuronal a doublé grâce à des améliorations de conception, puis doublé de nouveau avec le passage à un nœud de 2 nanomètres, pour atteindre 80 TOPS. Les simulations de DeepX montrent que le déport des opérations de multiplication matrice-vecteur (GEMV) dans la mémoire LPDDR5x-PIM porte le nombre de jetons par seconde du modèle Llama3.1-8B à 6,7 fois celui du DX-M2 seul — mais le fondateur et PDG Lokwon Kim précise que cette performance 6,7 fois supérieure exige 2,7 fois plus de puissance globale, avec environ un doublement possible à enveloppe énergétique égale. L’entreprise travaille sur cette technologie avec Samsung Memory depuis un an et demi et a reçu des échantillons de LPDDR5x PIM qu’elle teste en interne.

Robots, PC d’IA et automobiles en ligne de mire

Le DX-M2 vise les robots, les PC d’IA, l’automobile et les objets connectés. DeepX travaille avec des fabricants taïwanais sur les PC d’IA, tandis que les clients de la robotique commencent généralement sur la plateforme Thor de Nvidia avant de chercher des solutions à plus faible consommation en raison des contraintes thermiques et énergétiques ; le laboratoire de robotique du groupe Hyundai Motor utilise déjà le DX-M1 dans sa plateforme robotique. L’entreprise collabore aussi avec Intel pour intégrer OpenVINO à son kit de développement logiciel, et discute avec AMD d’une plateforme robotique basée sur sa carte de référence Kria.

Échantillons en mars 2027 ; la troisième génération visée pour 2028

Les échantillons d’ingénierie du DX-M2 sont attendus en mars 2027, et la production de masse est visée pour l’automne 2027. Une troisième génération, le DX-M3, est prévue pour 2028, avec une conception à puces modulaires (chiplet) visant 1 ePOPS (INT8) et la prise en charge de la LPDDR6 PIM, à destination des constructeurs automobiles et de la robotique humanoïde. Kim estime que le calcul d’IA se répartira davantage sur les appareils à mesure que l’efficacité s’améliore, et que faire tourner des modèles de 100 milliards de paramètres sur des appareils pourrait réduire le trafic des centres de données d’IA de plus de 80 %. Le DX-M1 de première génération est en production de masse, et l’entreprise affirme avoir reçu plus de 100 bons de commande.