Phison은 드라이브에서 AI를 실행하는 NPU가 내장된 SSD를 보여줍니다.

시카고에서 열린 SC26 슈퍼컴퓨팅 컨퍼런스에서 Phison은 SSD 내부에 신경 처리 장치와 64GB 메모리를 탑재하여 PyTorch와 같은 AI 프레임워크가 드라이브에서 실행되고 더 적은 양의 데이터를 이동할 수 있는 컴퓨팅 스토리지 설계를 선보였습니다.
SSD 컨트롤러 제조업체인 Phison은 시카고에서 열린 SC26 슈퍼컴퓨팅 컨퍼런스에서 컴퓨팅 스토리지 설계를 선보였습니다. 즉, 신경 처리 장치(NPU)와 64GB 메모리가 솔리드 스테이트 드라이브에 직접 내장되어 전체 데이터 세트를 서버 프로세서로 먼저 이동하는 대신 AI 작업이 데이터가 있는 곳에서 실행될 수 있습니다.
이동할 데이터 감소: 10~100회 컷 전송
Tom's Hardware 및 TechSpot에 따르면 이 디자인의 NPU는 36,800DMIPS, 메모리 대역폭은 130GB/s이며 특별한 프로그래밍 도구 없이도 PyTorch, vLLM, OpenVINO 및 llama.cpp를 포함한 친숙한 AI 프레임워크를 지원합니다. Phison은 이 접근 방식을 사용하면 적절한 작업 부하에서 데이터 전송을 10~100배 줄일 수 있을 뿐만 아니라 호스트 CPU의 부하도 완화할 수 있다고 말합니다.
Phison은 또한 최대 28GB/s 및 680만 IOPS의 순차 처리량을 목표로 하는 차세대 PCIe Gen6 엔터프라이즈 컨트롤러인 PS5303과 PCI-SIG 통합자 목록의 첫 번째 PCIe 6.0 리드라이버인 PS7161을 선보였습니다. PCIe Gen6은 레인당 속도를 64GT/s로 두 배 늘렸습니다.
출시일은 아직 정해지지 않은 아키텍처 제안입니다.
Phison은 AI 지원 드라이브의 이름을 지정하지 않았으며 샘플링 또는 출시 날짜도 제공하지 않았으며 표시된 제품과 기능 중 상당수가 아직 개발 단계에 있다고 말했습니다. TechSpot은 현재로서는 이것이 AI 훈련 클러스터와 슈퍼컴퓨터를 목표로 데이터 센터에서 주문할 수 있는 제품이라기보다 아키텍처 제안에 가깝다고 지적합니다.
N環球 
💬 Comments
No comments yet. Be the first!