N環球 N GLOBE
国际・科技

BrainChip 发表 Sequora 处理器 IP:让生成式 AI 在耳机、感测器等电池设备上本地运行

· N GLOBE

BrainChip 10 月 21 日释出 Sequora 处理器 IP 核心,主打在电池供电的边缘设备上直接跑生成式 AI 与大语言模型,针对状态空间模型优化、记忆体需求恒定,现已开放授权。

为何重要

边缘 AI 的下一个战场是「不必连云」。BrainChip 10 月 21 日宣布释出 Sequora 处理器 IP 核心,让生成式 AI 与大语言模型(LLM)直接在耳机、感测节点这类电池供电的边缘设备上运行,从装置端 LLM 推理、语音到语音互动到 AI 代理都能本地完成,资料不必上传云端,兼顾隐私与低延迟。

Sequora 与该公司既有的 Akida 神经形态处理器 IP 互补:Akida 负责串流感测资料(震动、音讯、雷达、射频 IQ、生医讯号),Sequora 接手生成式与序列型 AI 任务。

全文

关键技术在于针对状态空间模型(SSM)优化:SSM 以固定大小的状态保存输入历史,无论序列多长,记忆体需求都保持恒定,这正适合资源受限的边缘设备跑生成式工作负载。

硬体设计上,Sequora 用统一的乘累加(MAC)阵列同时处理讯号处理与神经网路运算,省去独立的 DSP 前处理阶段;其指令集架构(ISA)也允许透过软体更新部署新演算法。

授权包即日起开放:制程可携、可完全合成的 RTL 程式码,含验证 IP、测试平台、合成脚本与时序约束,以及含静态图编译器、C++ 执行期函式库与模型库的 SDK。客户可整合进自己的系统单晶片(SoC),在自选的晶圆代工厂与制程节点投片生产。

BrainChip 执行长 Sean Hehir 表示:「客户要的不只是一个讯号分类器或一个语言模型,而是两者兼具、在同一个产品、同一颗电池里——Akida 与 Sequora 的组合正是如此。」

此举也呼应产业趋势:AI 封装瓶颈已从先进逻辑下移到成熟节点,记忆体频宽与成本成为生成式模型的枷锁;让模型在边缘以恒定记忆体运行,正是降低「每字成本」的新路径。

💬 留言

暂时还没有留言,来抢沙发!