Phison giới thiệu SSD có NPU tích hợp chạy AI trên ổ

Tại hội nghị siêu máy tính SC26 ở Chicago, Phison đã trình diễn một thiết kế lưu trữ tính toán đặt bộ xử lý thần kinh và bộ nhớ 64GB bên trong ổ SSD, nhờ đó các khung AI như PyTorch có thể chạy trên ổ đĩa và di chuyển ít dữ liệu hơn.
Nhà sản xuất bộ điều khiển SSD Phison đã trình diễn một thiết kế lưu trữ tính toán tại hội nghị siêu máy tính SC26 ở Chicago: một bộ xử lý thần kinh (NPU) và 64GB bộ nhớ được tích hợp trực tiếp vào ổ cứng thể rắn, nhờ đó công việc AI có thể chạy ở nơi có dữ liệu thay vì trước tiên phải di chuyển toàn bộ tập dữ liệu sang bộ xử lý máy chủ.
Ít dữ liệu cần di chuyển hơn: giảm chuyển khoản từ 10 đến 100 lần
Theo Tom's Hardware và TechSpot, NPU của thiết kế được đánh giá ở mức 36.800 DMIPS, với băng thông bộ nhớ 130GB/s và nó hỗ trợ các khung AI quen thuộc bao gồm PyTorch, vLLM, OpenVINO và llama.cpp mà không cần công cụ lập trình chuyên dụng. Phison cho biết phương pháp này có thể cắt giảm việc truyền dữ liệu từ 10 đến 100 lần đối với khối lượng công việc phù hợp, đồng thời giảm tải cho CPU chủ.
Phison cũng giới thiệu bộ điều khiển doanh nghiệp PCIe Gen6 thế hệ tiếp theo, PS5303, hướng tới thông lượng tuần tự lên tới 28GB/s và 6,8 triệu IOPS, cùng với PS7161, trình điều khiển lại PCIe 6.0 đầu tiên trong Danh sách nhà tích hợp PCI-SIG. PCIe Gen6 tăng gấp đôi tốc độ trên mỗi làn lên 64 GT/s.
Vẫn là đề xuất kiến trúc, chưa có ngày ra mắt
Phison chưa nêu tên ổ đĩa có khả năng AI hoặc đưa ra ngày lấy mẫu hoặc ngày ra mắt, đồng thời cho biết nhiều sản phẩm và tính năng được hiển thị vẫn đang được phát triển. TechSpot lưu ý rằng hiện tại, đây giống một đề xuất kiến trúc hơn là một sản phẩm mà trung tâm dữ liệu có thể đặt hàng, nhằm vào các cụm đào tạo AI và siêu máy tính.
N環球 
💬 Comments
No comments yet. Be the first!