کوریا کے ڈیپ ایکس نے 5 واٹ پر سام سنگ کی LPDDR5x PIM ٹیک کے ساتھ دوسری نسل کی DX-M2 AI چپ کو ٹیپ کیا۔

جنوبی کوریائی ایج AI چپ سٹارٹ اپ DeepX نے سام سنگ میموری کی LPDDR5x پروسیسر-اِن-میموری (PIM) ٹیکنالوجی کا استعمال کرتے ہوئے اپنی دوسری نسل کے AI ایکسلریٹر DX-M2 کو ٹیپ کیا ہے، جس کا مقصد روبوٹس، ڈرونز اور دیگر ایج ڈیوائسز کو بڑے لینگویج ماڈلز کو براہ راست صرف 5 واٹ پر چلانے دینا ہے۔ EE Times نے 9 نومبر کو اطلاع دی کہ DX-M2 کو 20 بلین سے 100 بلین پیرامیٹرز کے ماڈلز چلانے کے لیے ڈیزائن کیا گیا ہے — تقریباً 3 بلین سے 20 بلین فعال پیرامیٹرز — 10 سے 30 ٹوکن فی سیکنڈ پر۔

میموری بینڈوڈتھ تین گنا؛ سمیولیشنز 6.7x اسپیڈ اپ پراجیکٹ کرتے ہیں۔

پہلی نسل کے DX-M1 کے مقابلے میں، DX-M2 میموری بینڈوڈتھ کو 50 GB/s سے 150 GB/s تک بڑھا دیتا ہے۔ اس کے نیورل پروسیسنگ یونٹ نے ڈیزائن میں بہتری کے ذریعے اپنی طاقت کی کارکردگی کو دوگنا کر دیا ہے، اور 2-نینو میٹر پروسیسنگ نوڈ پر جانے سے اسے دوبارہ دوگنا ہو گیا ہے، جو 80 ٹاپس تک پہنچ گیا ہے۔ ڈیپ ایکس کی نقلیں ظاہر کرتی ہیں کہ LPDDR5x-PIM میموری میں جنرل میٹرکس ویکٹر ملٹی پلیکیشن (GEMV) آپریشنز کو آف لوڈ کرنے سے Llama3.1-8B ماڈل کے لیے ٹوکن فی سیکنڈ DX-M2 سے 6.7 گنا بڑھ جاتے ہیں — لیکن بانی اور سی ای او لوکون کم نے نوٹ کیا کہ 6.27x سے زیادہ کی کارکردگی کے ساتھ 6.7 گنا زیادہ پاور کی ضرورت ہے۔ ایک ہی پاور لفافے میں دستیاب ہے۔ کمپنی نے سام سنگ میموری کے ساتھ ٹیکنالوجی پر کام کرنے میں ڈیڑھ سال گزارا ہے اور اسے LPDDR5x PIM کے نمونے موصول ہوئے ہیں، جن کی وہ اندرون ملک جانچ کر رہی ہے۔

روبوٹس، AI PCs اور کاروں کو نشانہ بنانا

DX-M2 روبوٹس، AI PCs، کاروں اور انٹرنیٹ سے متعلق آلات کو نشانہ بناتا ہے۔ DeepX AI PCs پر تائیوان کے مینوفیکچررز کے ساتھ کام کر رہا ہے، جبکہ روبوٹکس کے صارفین عام طور پر Nvidia کے Thor پلیٹ فارم پر شروع کرتے ہیں اور گرمی اور بجلی کی رکاوٹوں کی وجہ سے کم طاقت کے متبادل تلاش کرتے ہیں۔ ہنڈائی موٹر گروپ کی روبوٹکس لیب پہلے ہی اپنے روبوٹکس پلیٹ فارم میں DX-M1 استعمال کرتی ہے۔ کمپنی OpenVINO کو DeepX سافٹ ویئر ڈویلپمنٹ کٹ میں ضم کرنے کے لیے Intel کے ساتھ بھی کام کر رہی ہے، اور AMD کے ساتھ اس کے Kria ریفرنس بورڈ کی بنیاد پر ایک روبوٹکس پلیٹ فارم پر بات چیت کر رہی ہے۔

مارچ 2027 میں نمونے؛ تیسری نسل کا مقصد 2028 ہے۔

DX-M2 کے انجینئرنگ نمونے مارچ 2027 میں متوقع ہیں، جس میں بڑے پیمانے پر پیداوار کا ہدف 2027 کے خزاں کے لیے رکھا گیا ہے۔ تیسری نسل، DX-M3، 2028 کے لیے منصوبہ بندی کی گئی ہے جس میں 1 ePOPS (INT8) کو نشانہ بنانے والے چپلیٹ پر مبنی ڈیزائن اور LPDDR6 PIM کے لیے سپورٹ ہے، جس کا مقصد ہیومن روبوٹک اور کارماوائڈز ہیں۔ کم نے کہا کہ کارکردگی بہتر ہونے کے ساتھ ہی AI کمپیوٹ مزید تقسیم ہو جائے گا، اور آلات پر 100-بلین پیرامیٹر ماڈل چلانے سے AI ڈیٹا سینٹر ٹریفک میں 80 فیصد سے زیادہ کمی واقع ہو سکتی ہے۔ پہلی نسل کا DX-M1 بڑے پیمانے پر پیداوار میں ہے، اور کمپنی کا کہنا ہے کہ اس کے پاس 100 سے زیادہ خریداری کے آرڈر ہیں۔