Phison mostra SSD com NPU integrado que executa IA na unidade

Na conferência de supercomputação SC26 em Chicago, Phison mostrou um projeto de armazenamento computacional que coloca uma unidade de processamento neural e 64 GB de memória dentro de um SSD, para que estruturas de IA como PyTorch possam ser executadas na unidade e mover menos dados.
O fabricante de controladores SSD Phison mostrou um projeto de armazenamento computacional na conferência de supercomputação SC26 em Chicago: uma unidade de processamento neural (NPU) e 64 GB de memória integrados diretamente em uma unidade de estado sólido, para que o trabalho de IA possa ser executado onde os dados residem, em vez de mover primeiro conjuntos de dados inteiros para um processador de servidor.
Menos dados para mover: transferências reduzidas de 10 a 100 vezes
De acordo com Tom's Hardware e TechSpot, o NPU do design é avaliado em 36.800 DMIPS, com largura de banda de memória de 130 GB/s, e suporta estruturas de IA familiares, incluindo PyTorch, vLLM, OpenVINO e llama.cpp, sem a necessidade de ferramentas de programação especializadas. Phison diz que a abordagem pode reduzir as transferências de dados de 10 a 100 vezes em cargas de trabalho adequadas, ao mesmo tempo que alivia a carga da CPU do host.
Phison também mostrou seu controlador corporativo PCIe Gen6 de próxima geração, o PS5303, visando taxa de transferência sequencial de até 28 GB/s e 6,8 milhões de IOPS, além do PS7161, o primeiro redriver PCIe 6.0 na lista de integradores PCI-SIG. PCIe Gen6 dobra a taxa por pista para 64 GT/s.
Ainda uma proposta de arquitetura, sem data de lançamento
Phison não nomeou a unidade compatível com IA nem forneceu uma amostra ou data de lançamento, e diz que muitos dos produtos e recursos mostrados permanecem em desenvolvimento. A TechSpot observa que, por enquanto, esta é mais uma proposta de arquitetura do que um produto que um data center pode solicitar, voltado para clusters de treinamento de IA e supercomputadores.
N環球 
💬 Comments
No comments yet. Be the first!