N環球 N GLOBE
韓國・科技

韓國 DeepX 第二代 AI 晶片 DX-M2 流片 聯手三星存算一體技術、功耗僅 5 瓦

· N GLOBE

韓國邊緣 AI 晶片公司 DeepX 宣布第二代加速器 DX-M2 完成流片,採用三星 LPDDR5x 存算一體技術,記憶體頻寬增至三倍,目標在 5 瓦功耗內於裝置端運行大型語言模型;模擬顯示特定負載下速度可達 6.7 倍,工程樣品預計 2027 年 3 月出貨。

韓國邊緣 AI 晶片初創公司 DeepX 宣布,第二代 AI 加速器 DX-M2 已完成流片,採用三星記憶體的 LPDDR5x 存算一體(PIM)技術,目標是在 5 瓦功耗內,讓機械人、無人機等邊緣裝置直接運行大型語言模型。據 EE Times 11 月 9 日報道,DX-M2 旨在運行 200 億至 1,000 億參數的模型(活躍參數約 30 億至 200 億),速度為每秒 10 至 30 個 token。

記憶體頻寬增至三倍 模擬提速 6.7 倍

與第一代 DX-M1 相比,DX-M2 的記憶體頻寬由每秒 50 GB 增至 150 GB;神經處理單元(NPU)的能效因設計改進翻倍,轉用 2 納米製程後再翻倍,算力達 80 TOPS。DeepX 的模擬顯示,把通用矩陣向量乘法(GEMV)運算卸載到 LPDDR5x-PIM 記憶體內執行,運行 Llama3.1-8B 模型時每秒 token 數可達 DX-M2 單獨運行的 6.7 倍;但創辦人兼行政總裁金樂元(Lokwon Kim)同時指出,6.7 倍性能需要 2.7 倍整體功耗,在相同功耗下約可提升兩倍。公司與三星記憶體合作該技術已一年半,已收到 LPDDR5x PIM 樣品並在內部測試。

瞄準機械人、AI 電腦與汽車

DX-M2 的目標市場包括機械人、AI 電腦、汽車與物聯網裝置。DeepX 正與台灣廠商合作尋找 AI 電腦的切入點;機械人客戶多由輝達 Thor 平台起步,因散熱與功耗問題轉向低功耗方案;現代汽車集團機械人實驗室已在其機械人平台使用 DX-M1。公司亦與英特爾合作將 OpenVINO 整合至 DeepX 軟件開發套件,並與 AMD 洽談基於 Kria 參考板的機械人平台。

樣品明年 3 月推出 第三代瞄準 2028 年

DX-M2 工程樣品預計 2027 年 3 月推出,量產目標為 2027 年秋季。第三代 DX-M3 預計 2028 年推出,採用小晶片設計,目標算力 1 ePOPS(INT8),支援 LPDDR6 PIM,瞄準汽車製造商與人形機械人。金樂元表示,長遠來看 AI 運算會隨效率提升而分散到裝置端;若裝置能運行千億參數模型,可減少數據中心流量八成以上。第一代 DX-M1 已量產,據公司稱已獲逾 100 張採購訂單。

💬 留言

暫時還沒有留言,來搶沙發!