N環球 N GLOBE
美国・科技

群联展示内建 NPU 的固态硬碟 让 AI 直接在硬碟上运算

· N GLOBE

群联在芝加哥超级计算大会 SC26 展示计算型储存架构:在固态硬碟内加入神经网路处理器与 64GB 记忆体,可直接在硬碟上运行 PyTorch 等 AI 框架,减少资料搬运。

固态硬碟主控大厂群联(Phison)在芝加哥超级计算大会 SC26 上展示一项计算型储存(computational storage)设计:把神经网路处理器(NPU)与 64GB 记忆体直接放进固态硬碟,让 AI 运算在资料存放的位置进行,不必先把整批资料搬到伺服器处理器。

资料不用搬 传输量可降 10 至 100 倍

据 Tom's Hardware 与 TechSpot 报导,这款设计的 NPU 算力为 36,800 DMIPS,记忆体频宽达 130GB/s,支援 PyTorch、vLLM、OpenVINO 与 llama.cpp 等开发者熟悉的 AI 框架,无需专用编程工具。群联表示,在合适的工作负载下,这种做法可把资料传输量减少 10 至 100 倍,同时减轻主机 CPU 的负担。

群联同时展示了下一代 PCIe Gen6 企业级主控 PS5303,循序传输速度最高可达 28GB/s、每秒 680 万次 IOPS,以及首款通过 PCI-SIG 互通性认证的 PCIe 6.0 讯号中继晶片 PS7161。PCIe Gen6 每通道速率翻倍至 64 GT/s。

仍是架构提案 尚未公布上市时间

群联尚未为这款具备 AI 运算能力的硬碟命名,也未公布送样或上市时间,并表示会上展示的多项产品与功能仍在开发中。TechSpot 指出,目前这更像是一份架构提案,而非资料中心可以下单购买的产品,目标市场是 AI 训练丛集与超级电脑等企业级储存。

💬 留言

暂时还没有留言,来抢沙发!