N環球 
BrainChip lança processador Sequora IP para executar IA generativa em dispositivos Edge alimentados por bateria
O núcleo IP do processador Sequora da BrainChip, lançado em 21 de outubro, traz IA generativa e LLMs para dispositivos de ponta alimentados por bateria, como fones de ouvido e nós de sensores, com requisitos de memória constantes graças à otimização do modelo de espaço de estado. Agora disponível para licenciamento.
Por que isso importa
O próximo campo de batalha na IA de ponta será executado sem a nuvem. BrainChip anunciou em 21 de outubro o lançamento de seu núcleo IP do processador Sequora, permitindo que IA generativa e modelos de linguagem grandes sejam executados diretamente em dispositivos de ponta alimentados por bateria, como fones de ouvido e nós de sensores – desde inferência LLM no dispositivo e interação voz a voz até agentes de IA, todos locais, sem dados enviados para a nuvem, melhorando a privacidade e a latência.
O Sequora complementa o IP do processador neuromórfico Akida existente da empresa: Akida lida com dados de sensores de streaming (vibração, áudio, radar, QI de RF bruto, sinais biológicos) enquanto o Sequora assume tarefas de IA generativas e sequenciais.
Relatório completo
A principal aposta técnica é a otimização para modelos de espaço de estado (SSMs), que mantêm um estado de tamanho fixo para representar o histórico de entrada, mantendo os requisitos de memória constantes, independentemente do comprimento da sequência – uma opção adequada para cargas de trabalho generativas de IA em dispositivos com recursos limitados.
O Sequora usa um array unificado de multiplicação e acumulação (MAC) para processamento de sinal e computação de rede neural, eliminando a necessidade de um estágio de pré-processamento DSP separado, e sua arquitetura de conjunto de instruções permite que novos algoritmos sejam implantados por meio de atualizações de software.
O IP já está disponível para licenciamento: código RTL totalmente sintetizável e portátil para processo, incluindo IP de verificação, testbench, scripts de síntese e restrições de tempo, além de um SDK com um compilador de gráfico estático, uma biblioteca de tempo de execução C++ e um zoológico modelo. Os clientes integram-no em seu próprio sistema no chip e fabricam na fundição e no nó de processo de sua escolha.
O CEO Sean Hehir disse: "Os clientes não estão pedindo apenas um classificador de sinal ou um modelo de linguagem. Eles querem ambos, no mesmo produto, na mesma bateria."
O lançamento ecoa uma tendência do setor: o gargalo do hardware de IA passou da lógica de ponta para nós maduros, e a largura de banda e o custo da memória tornaram-se o controle dos modelos generativos. Executar modelos no limite com memória constante é um novo caminho para reduzir o custo por palavra.
💬 Comments
No comments yet. Be the first!