N環球 N GLOBE
國際・科技

BrainChip 發表 Sequora 處理器 IP:讓生成式 AI 在耳機、感測器等電池設備上本地運行

· N GLOBE

BrainChip 10 月 21 日釋出 Sequora 處理器 IP 核心,主打在電池供電的邊緣設備上直接跑生成式 AI 與大語言模型,針對狀態空間模型優化、記憶體需求恆定,現已開放授權。

為何重要

邊緣 AI 的下一個戰場是「不必連雲」。BrainChip 10 月 21 日宣布釋出 Sequora 處理器 IP 核心,讓生成式 AI 與大語言模型(LLM)直接在耳機、感測節點這類電池供電的邊緣設備上運行,從裝置端 LLM 推理、語音到語音互動到 AI 代理都能本地完成,資料不必上傳雲端,兼顧隱私與低延遲。

Sequora 與該公司既有的 Akida 神經形態處理器 IP 互補:Akida 負責串流感測資料(震動、音訊、雷達、射頻 IQ、生醫訊號),Sequora 接手生成式與序列型 AI 任務。

全文

關鍵技術在於針對狀態空間模型(SSM)優化:SSM 以固定大小的狀態保存輸入歷史,無論序列多長,記憶體需求都保持恆定,這正適合資源受限的邊緣設備跑生成式工作負載。

硬體設計上,Sequora 用統一的乘累加(MAC)陣列同時處理訊號處理與神經網路運算,省去獨立的 DSP 前處理階段;其指令集架構(ISA)也允許透過軟體更新部署新演算法。

授權包即日起開放:製程可攜、可完全合成的 RTL 程式碼,含驗證 IP、測試平台、合成腳本與時序約束,以及含靜態圖編譯器、C++ 執行期函式庫與模型庫的 SDK。客戶可整合進自己的系統單晶片(SoC),在自選的晶圓代工廠與製程節點投片生產。

BrainChip 執行長 Sean Hehir 表示:「客戶要的不只是一個訊號分類器或一個語言模型,而是兩者兼具、在同一個產品、同一顆電池裡——Akida 與 Sequora 的組合正是如此。」

此舉也呼應產業趨勢:AI 封裝瓶頸已從先進邏輯下移到成熟節點,記憶體頻寬與成本成為生成式模型的枷鎖;讓模型在邊緣以恆定記憶體運行,正是降低「每字成本」的新路徑。

💬 留言

暫時還沒有留言,來搶沙發!