Phison показує SSD із вбудованим NPU, який запускає AI на диску

На конференції з суперкомп’ютерів SC26 у Чикаго Phison продемонстрував дизайн обчислювальної пам’яті, яка розміщує нейронний процесор і 64 ГБ пам’яті всередині твердотільного накопичувача, тож інфраструктури штучного інтелекту, такі як PyTorch, можуть працювати на накопичувачі та переміщувати менше даних.
Виробник контролерів твердотільних накопичувачів Phison продемонстрував конструкцію обчислювального сховища на конференції з суперкомп’ютерів SC26 у Чикаго: нейронний процесор (NPU) і 64 ГБ пам’яті, вбудовані безпосередньо в твердотільний накопичувач, щоб роботу штучного інтелекту можна було виконувати там, де живуть дані, а не переміщувати цілі набори даних на серверний процесор.
Менше даних для переміщення: передачі скорочуються від 10 до 100 разів
За даними Tom's Hardware і TechSpot, NPU розрахована на 36 800 DMIPS, пропускна здатність пам’яті становить 130 ГБ/с, і він підтримує знайомі фреймворки штучного інтелекту, включаючи PyTorch, vLLM, OpenVINO та llama.cpp, без спеціальних інструментів програмування. Phison каже, що цей підхід може скоротити передачу даних у 10-100 разів за відповідних робочих навантажень, а також зменшити навантаження на центральний процесор.
Phison також показала свій корпоративний контролер наступного покоління PCIe Gen6, PS5303, який націлений на послідовну пропускну здатність до 28 ГБ/с і 6,8 мільйона IOPS, а також PS7161, перший повторний драйвер PCIe 6.0 у списку інтеграторів PCI-SIG. PCIe Gen6 подвоює швидкість на смугу до 64 ГТ/с.
Все ще пропозиція архітектури, без дати запуску
Phison не назвав назви диска з підтримкою штучного інтелекту, не вказав вибірку чи дату запуску, і каже, що багато з показаних продуктів і функцій залишаються в розробці. TechSpot зазначає, що наразі це скоріше пропозиція архітектури, ніж продукт, який може замовити центр обробки даних, спрямований на навчальні кластери ШІ та суперкомп’ютери.
N環球 
💬 Comments
No comments yet. Be the first!