Phison は、ドライブ上で AI を実行する NPU を内蔵した SSD を披露

シカゴで開催されたスーパーコンピューティング カンファレンス SC26 で、Phison 氏は、SSD 内にニューラル プロセッシング ユニットと 64 GB のメモリを搭載した計算ストレージ設計を披露しました。これにより、PyTorch などの AI フレームワークがドライブ上で実行され、移動するデータが少なくなります。
SSDコントローラメーカーのPhisonは、シカゴで開催されたスーパーコンピューティングカンファレンスSC26で計算ストレージ設計を披露した。これはニューラルプロセッシングユニット(NPU)と64GBのメモリがソリッドステートドライブに直接組み込まれており、最初にデータセット全体をサーバープロセッサに移動するのではなく、データが存在する場所でAI作業を実行できる。
移動するデータが少なくなる: 転送が 10 ~ 100 回削減されます
Tom's Hardware と TechSpot によると、この設計の NPU は 36,800 DMIPS で、メモリ帯域幅は 130GB/s で、PyTorch、vLLM、OpenVINO、llama.cpp などの使い慣れた AI フレームワークをサポートしており、特殊なプログラミング ツールは必要ありません。 Phison 氏は、このアプローチにより、適切なワークロードでデータ転送を 10 ~ 100 分の 1 に削減できると同時に、ホスト CPU の負荷も軽減できると述べています。
Phison はまた、最大 28GB/s および 680 万 IOPS のシーケンシャル スループットを目標とする次世代 PCIe Gen6 エンタープライズ コントローラー PS5303 と、PCI-SIG インテグレーター リストに載った最初の PCIe 6.0 リドライバーである PS7161 も展示しました。 PCIe Gen6 では、レーンあたりのレートが 2 倍の 64 GT/s になります。
まだアーキテクチャの提案であり、発売日は未定
Phison 氏は、AI 対応ドライブの名前やサンプリング日や発売日については明らかにしておらず、示されている製品や機能の多くは開発中であると述べています。 TechSpot は、現時点ではこれはデータセンターが発注できる製品というよりはアーキテクチャの提案であり、AI トレーニング クラスターやスーパーコンピューターを目的としていると指摘しています。
N環球 
💬 Comments
No comments yet. Be the first!