N環球 
Inilunsad ng BrainChip ang Sequora Processor IP upang Patakbuhin ang Generative AI sa Mga Device na Edge Powered sa Baterya
Ang Sequora processor IP core ng BrainChip, na inilabas noong Oktubre 21, ay nagdadala ng mga generative na AI at LLM sa mga device na pinapagana ng baterya tulad ng mga earbud at sensor node, na may patuloy na mga kinakailangan sa memorya salamat sa pag-optimize ng modelo ng state-space. Magagamit na ngayon para sa paglilisensya.
Bakit ito mahalaga
Ang susunod na battleground sa edge AI ay tumatakbo nang walang cloud. Inanunsyo ng BrainChip noong Oktubre 21 ang paglabas ng Sequora processor IP core nito, na nagbibigay-daan sa mga generative AI at malalaking modelo ng wika na direktang tumakbo sa mga device na pinapagana ng baterya gaya ng mga earbud at sensor node — mula sa on-device na LLM inference at voice-to-voice na pakikipag-ugnayan sa mga ahente ng AI, lahat lokal, na walang data na ipinadala sa cloud, na nagpapahusay sa privacy at latency.
Kinukumpleto ng Sequora ang kasalukuyang Akida neuromorphic processor IP ng kumpanya: Pinangangasiwaan ng Akida ang streaming sensor data (vibration, audio, radar, raw RF IQ, biological signal) habang ang Sequora ay nagsasagawa ng generative at sequential AI na mga gawain.
Buong ulat
Ang pangunahing teknikal na taya ay ang pag-optimize para sa state-space models (SSMs), na nagpapanatili ng fixed-size na estado upang kumatawan sa kasaysayan ng pag-input, na pinapanatili ang mga kinakailangan sa memory na pare-pareho anuman ang haba ng pagkakasunud-sunod — isang akma para sa mga generative na workload ng AI sa mga resource-constrained device.
Gumagamit ang Sequora ng pinag-isang multiply-accumulate (MAC) array para sa parehong pagpoproseso ng signal at pag-compute ng neural-network, na inaalis ang pangangailangan para sa isang hiwalay na yugto ng preprocessing ng DSP, at ang arkitektura ng set ng pagtuturo nito ay nagbibigay-daan sa mga bagong algorithm na ma-deploy sa pamamagitan ng mga update sa software.
Available na ang IP para sa paglilisensya: process-portable, fully synthesizable RTL code kasama ang verification IP, testbench, synthesis script at timing constraints, kasama ang SDK na may static graph compiler, C++ runtime library at model zoo. Isinasama ito ng mga customer sa sarili nilang system-on-chip at paggawa sa foundry at process node na kanilang pinili.
Sinabi ng CEO na si Sean Hehir: "Ang mga customer ay hindi humihingi ng signal classifier o modelo ng wika. Gusto nilang pareho, sa parehong produkto, sa parehong baterya."
Ang paglulunsad ay nagpapahiwatig ng isang trend sa industriya: ang AI hardware bottleneck ay lumipat mula sa nangungunang lohika hanggang sa mga mature na node, at ang bandwidth ng memorya at gastos ay naging tali sa mga generative na modelo. Ang pagpapatakbo ng mga modelo sa gilid na may pare-parehong memorya ay isang bagong ruta sa pagpapababa ng gastos sa bawat salita.
💬 Comments
No comments yet. Be the first!