N環球 N GLOBE
Технологія США

Phison показує SSD із вбудованим NPU, який запускає AI на диску

· N GLOBE

На конференції з суперкомп’ютерів SC26 у Чикаго Phison продемонстрував дизайн обчислювальної пам’яті, яка розміщує нейронний процесор і 64 ГБ пам’яті всередині твердотільного накопичувача, тож інфраструктури штучного інтелекту, такі як PyTorch, можуть працювати на накопичувачі та переміщувати менше даних.

Виробник контролерів твердотільних накопичувачів Phison продемонстрував конструкцію обчислювального сховища на конференції з суперкомп’ютерів SC26 у Чикаго: нейронний процесор (NPU) і 64 ГБ пам’яті, вбудовані безпосередньо в твердотільний накопичувач, щоб роботу штучного інтелекту можна було виконувати там, де живуть дані, а не переміщувати цілі набори даних на серверний процесор.

Менше даних для переміщення: передачі скорочуються від 10 до 100 разів

За даними Tom's Hardware і TechSpot, NPU розрахована на 36 800 DMIPS, пропускна здатність пам’яті становить 130 ГБ/с, і він підтримує знайомі фреймворки штучного інтелекту, включаючи PyTorch, vLLM, OpenVINO та llama.cpp, без спеціальних інструментів програмування. Phison каже, що цей підхід може скоротити передачу даних у 10-100 разів за відповідних робочих навантажень, а також зменшити навантаження на центральний процесор.

Phison також показала свій корпоративний контролер наступного покоління PCIe Gen6, PS5303, який націлений на послідовну пропускну здатність до 28 ГБ/с і 6,8 мільйона IOPS, а також PS7161, перший повторний драйвер PCIe 6.0 у списку інтеграторів PCI-SIG. PCIe Gen6 подвоює швидкість на смугу до 64 ГТ/с.

Все ще пропозиція архітектури, без дати запуску

Phison не назвав назви диска з підтримкою штучного інтелекту, не вказав вибірку чи дату запуску, і каже, що багато з показаних продуктів і функцій залишаються в розробці. TechSpot зазначає, що наразі це скоріше пропозиція архітектури, ніж продукт, який може замовити центр обробки даних, спрямований на навчальні кластери ШІ та суперкомп’ютери.

💬 Comments

No comments yet. Be the first!