DeepX کره ای نسل دوم تراشه هوش مصنوعی DX-M2 را با فناوری LPDDR5x PIM سامسونگ در 5 وات تولید می کند.

استارت‌آپ تراشه‌های هوش مصنوعی لبه‌ای کره جنوبی DeepX، شتاب‌دهنده هوش مصنوعی نسل دوم خود، DX-M2 را با استفاده از فناوری پردازشگر در حافظه (PIM) LPDDR5x Samsung Memory با هدف اجازه دادن به ربات‌ها، پهپادها و سایر دستگاه‌های لبه‌ای، مدل‌های زبان بزرگ را مستقیماً با تنها ۵ وات اجرا می‌کند. EE Times در 9 نوامبر گزارش داد که DX-M2 برای اجرای مدل هایی با 20 میلیارد تا 100 میلیارد پارامتر - حدود 3 میلیارد تا 20 میلیارد پارامتر فعال - با سرعت 10 تا 30 توکن در ثانیه طراحی شده است.

پهنای باند حافظه سه برابر می شود. شبیه سازی ها سرعت 6.7 برابری را ارائه می دهند

در مقایسه با نسل اول DX-M1، DX-M2 پهنای باند حافظه را از 50 گیگابایت بر ثانیه به 150 گیگابایت بر ثانیه افزایش می دهد. واحد پردازش عصبی آن راندمان انرژی خود را از طریق بهبود طراحی دو برابر کرده است و حرکت به یک گره فرآیندی 2 نانومتری آن را دوباره دوبرابر کرد و به 80 TOPS رسید. شبیه‌سازی‌های DeepX نشان می‌دهد که بارگذاری عملیات ضرب بردار ماتریس عمومی (GEMV) در حافظه LPDDR5x-PIM، توکن‌ها را در هر ثانیه برای مدل Llama3.1-8B به 6.7 برابر DX-M2 به تنهایی افزایش می‌دهد – اما بنیان‌گذار و مدیر عامل شرکت Lokwon Kim خاطرنشان کرد که قدرت بیش از 2.7 برابر با عملکردی بیش از 6.7 برابر نیاز دارد. موجود در همان پاکت قدرت. این شرکت یک سال و نیم را روی این فناوری با حافظه سامسونگ کار کرده است و نمونه‌های PIM LPDDR5x را دریافت کرده است که در داخل در حال آزمایش است.

هدف قرار دادن ربات ها، رایانه های شخصی هوش مصنوعی و اتومبیل ها

DX-M2 ربات‌ها، رایانه‌های شخصی هوش مصنوعی، اتومبیل‌ها و دستگاه‌های اینترنت اشیا را هدف قرار می‌دهد. DeepX با تولیدکنندگان تایوانی روی رایانه‌های شخصی هوش مصنوعی کار می‌کند، در حالی که مشتریان روباتیک معمولاً از پلتفرم Thor انویدیا شروع می‌کنند و به دلیل محدودیت‌های گرما و توان به دنبال جایگزین‌های کم مصرف هستند. آزمایشگاه رباتیک هیوندای موتور در حال حاضر از DX-M1 در پلت فرم روباتیک خود استفاده می کند. این شرکت همچنین در حال کار با اینتل برای ادغام OpenVINO در کیت توسعه نرم افزار DeepX است و در حال مذاکره با AMD بر روی یک پلتفرم روباتیک مبتنی بر بورد مرجع Kria است.

نمونه ها در مارس 2027; نسل سوم با هدف سال 2028

نمونه های مهندسی DX-M2 در مارس 2027 با هدف تولید انبوه برای پاییز 2027 انتظار می رود. نسل سوم DX-M3 برای سال 2028 با طراحی مبتنی بر چیپلت با هدف 1 ePOPS (INT8) و پشتیبانی از LPDDR6 PIM با هدف خودروسازان و ربات های انسان نما برنامه ریزی شده است. کیم گفت با بهبود کارایی، محاسبات هوش مصنوعی توزیع‌تر می‌شود و اجرای مدل‌های 100 میلیارد پارامتری روی دستگاه‌ها می‌تواند ترافیک مرکز داده هوش مصنوعی را بیش از 80 درصد کاهش دهد. نسل اول DX-M1 در حال تولید انبوه است و این شرکت می گوید بیش از 100 سفارش خرید دارد.