N環球 
BrainChip lanza el procesador IP Sequora para ejecutar IA generativa en dispositivos periféricos que funcionan con baterías
El núcleo IP del procesador Sequora de BrainChip, lanzado el 21 de octubre, lleva IA generativa y LLM a dispositivos periféricos que funcionan con baterías, como auriculares y nodos de sensores, con requisitos de memoria constantes gracias a la optimización del modelo de espacio de estado. Ahora disponible para licencia.
Por qué es importante
El próximo campo de batalla en la IA periférica es ejecutarse sin la nube. BrainChip anunció el 21 de octubre el lanzamiento de su núcleo IP de procesador Sequora, que permite que la IA generativa y grandes modelos de lenguaje se ejecuten directamente en dispositivos periféricos alimentados por baterías, como auriculares y nodos de sensores, desde la inferencia LLM en el dispositivo y la interacción de voz a voz hasta agentes de IA, todo local, sin enviar datos a la nube, lo que mejora la privacidad y la latencia.
Sequora complementa el procesador neuromórfico IP Akida existente de la compañía: Akida maneja la transmisión de datos de sensores (vibración, audio, radar, coeficiente intelectual de RF sin procesar, señales biológicas) mientras que Sequora asume tareas de IA generativas y secuenciales.
Informe completo
La apuesta técnica clave es la optimización de los modelos de espacio de estado (SSM), que mantienen un estado de tamaño fijo para representar el historial de entrada, manteniendo constantes los requisitos de memoria independientemente de la longitud de la secuencia, una opción para cargas de trabajo de IA generativa en dispositivos con recursos limitados.
Sequora utiliza una matriz unificada de acumulación múltiple (MAC) tanto para el procesamiento de señales como para el cálculo de redes neuronales, lo que elimina la necesidad de una etapa de preprocesamiento DSP separada, y su arquitectura de conjunto de instrucciones permite implementar nuevos algoritmos a través de actualizaciones de software.
La IP ya está disponible para licencia: código RTL totalmente sintetizable y portátil para procesos que incluye IP de verificación, banco de pruebas, scripts de síntesis y restricciones de tiempo, además de un SDK con un compilador de gráficos estáticos, una biblioteca de tiempo de ejecución de C++ y un zoológico de modelos. Los clientes lo integran en su propio sistema en chip y lo fabrican en la fundición y el nodo de proceso de su elección.
El CEO Sean Hehir dijo: "Los clientes no piden sólo un clasificador de señales o un modelo de lenguaje. Quieren ambos, en el mismo producto, con la misma batería".
El lanzamiento se hace eco de una tendencia de la industria: el cuello de botella del hardware de IA ha pasado de una lógica de vanguardia a nodos maduros, y el ancho de banda y el costo de la memoria se han convertido en la correa de los modelos generativos. Ejecutar modelos en el borde con memoria constante es una nueva ruta para reducir el costo por palabra.
💬 Comments
No comments yet. Be the first!