N環球 N GLOBE
美國・科技

群聯展示內建 NPU 的固態硬碟 讓 AI 直接在硬碟上運算

· N GLOBE

群聯在芝加哥超級計算大會 SC26 展示計算型儲存架構:在固態硬碟內加入神經網路處理器與 64GB 記憶體,可直接在硬碟上運行 PyTorch 等 AI 框架,減少資料搬運。

固態硬碟主控大廠群聯(Phison)在芝加哥超級計算大會 SC26 上展示一項計算型儲存(computational storage)設計:把神經網路處理器(NPU)與 64GB 記憶體直接放進固態硬碟,讓 AI 運算在資料存放的位置進行,不必先把整批資料搬到伺服器處理器。

資料不用搬 傳輸量可降 10 至 100 倍

據 Tom's Hardware 與 TechSpot 報導,這款設計的 NPU 算力為 36,800 DMIPS,記憶體頻寬達 130GB/s,支援 PyTorch、vLLM、OpenVINO 與 llama.cpp 等開發者熟悉的 AI 框架,無需專用編程工具。群聯表示,在合適的工作負載下,這種做法可把資料傳輸量減少 10 至 100 倍,同時減輕主機 CPU 的負擔。

群聯同時展示了下一代 PCIe Gen6 企業級主控 PS5303,循序傳輸速度最高可達 28GB/s、每秒 680 萬次 IOPS,以及首款通過 PCI-SIG 互通性認證的 PCIe 6.0 訊號中繼晶片 PS7161。PCIe Gen6 每通道速率翻倍至 64 GT/s。

仍是架構提案 尚未公布上市時間

群聯尚未為這款具備 AI 運算能力的硬碟命名,也未公布送樣或上市時間,並表示會上展示的多項產品與功能仍在開發中。TechSpot 指出,目前這更像是一份架構提案,而非資料中心可以下單購買的產品,目標市場是 AI 訓練叢集與超級電腦等企業級儲存。

💬 留言

暫時還沒有留言,來搶沙發!