N環球 N GLOBE
美國・科技

SambaNova 與 Supermicro 聯手推 SN50 推論機櫃 首批規劃 1 萬顆晶片、與輝達 GPU 並行

· N GLOBE

AI 晶片公司 SambaNova 11 月 3 日宣布與伺服器大廠 Supermicro 建立策略合作,共同開發搭載其第五代 SN50 推論晶片的 AI 推論機櫃,納入 Supermicro 的資料中心 building block 方案,與輝達 GPU 在同一系統內並行運作,首批規劃 1 萬顆 SN50 晶片。Supermicro 負責系統整合、測試、交付與現場支援,SambaNova 派工程師協助模型上線與調校。(配圖為資料中心機櫃資料圖片,並非兩家公司的產品。)

AI 晶片公司 SambaNova 11 月 3 日宣布,與伺服器大廠 Supermicro(美超微)建立策略合作,共同開發搭載 SambaNova 第五代推論晶片 SN50 的 AI 推論機櫃。雙方表示,這批機櫃將納入 Supermicro 的資料中心 building block 方案(Data Center Building Block Solutions),其中的可重構資料流處理器(RDU)將與輝達 GPU 在同一系統內並行運作,首批規劃使用 1 萬顆 SN50 晶片。(配圖為資料中心機櫃資料圖片,並非兩家公司的產品。)

分工:Supermicro 做系統 SambaNova 幫模型上線

根據合作內容,Supermicro 負責系統整合、測試、交付與支援,包括提供現場服務;SambaNova 的工程師則協助客戶把模型跑起來、調校效能並支援部署。雙方定位這批系統為「解耦式推論」(disaggregated inference)架構,即把推論運算從傳統以 GPU 為主的架構中拆出來,由專用推論晶片與 GPU 分工處理。

SN50:第五代推論專用晶片

SN50 是 SambaNova 的第五代可重構資料流單元(Reconfigurable Dataflow Unit),專為高效能 AI 推論設計。雙方未公布這批機櫃的售價、交付時間表或首批客戶名單,也未公布以 SN50 為主的系統與純 GPU 系統相比的實測效能數據;合作目前公布的是產品開發與供貨規劃,而非已交付的部署規模。

💬 留言

暫時還沒有留言,來搶沙發!