N環球 
BrainChip, 배터리 구동 엣지 장치에서 생성 AI를 실행하기 위해 Sequora 프로세서 IP 출시
10월 21일 출시된 BrainChip의 Sequora 프로세서 IP 코어는 상태 공간 모델 최적화 덕분에 일정한 메모리 요구 사항을 갖춘 이어버드 및 센서 노드와 같은 배터리 구동식 에지 장치에 생성 AI 및 LLM을 제공합니다. 이제 라이센스를 사용할 수 있습니다.
왜 중요한가요?
엣지 AI의 다음 전장은 클라우드 없이 실행되고 있습니다. BrainChip은 10월 21일에 Sequora 프로세서 IP 코어 출시를 발표했습니다. 이를 통해 생성 AI 및 대규모 언어 모델을 이어버드 및 센서 노드와 같은 배터리 구동식 에지 장치에서 직접 실행할 수 있습니다. 이는 온디바이스 LLM 추론 및 음성 대 음성 상호 작용에서 AI 에이전트에 이르기까지 모든 로컬에서 클라우드로 데이터를 전송하지 않고 개인 정보 보호 및 대기 시간을 개선합니다.
Sequora는 회사의 기존 Akida 뉴로모픽 프로세서 IP를 보완합니다. Akida는 스트리밍 센서 데이터(진동, 오디오, 레이더, 원시 RF IQ, 생물학적 신호)를 처리하고 Sequora는 생성 및 순차적 AI 작업을 수행합니다.
전체 보고서
핵심 기술은 입력 기록을 나타내기 위해 고정 크기 상태를 유지하고 시퀀스 길이에 관계없이 메모리 요구 사항을 일정하게 유지하는 상태 공간 모델(SSM)에 대한 최적화입니다. 이는 리소스가 제한된 장치의 생성 AI 워크로드에 적합합니다.
Sequora는 신호 처리와 신경망 계산 모두에 통합 MAC(Multiple-Accumulate) 배열을 사용하므로 별도의 DSP 전처리 단계가 필요하지 않으며 명령어 세트 아키텍처를 통해 소프트웨어 업데이트를 통해 새로운 알고리즘을 배포할 수 있습니다.
이제 IP 라이선싱이 가능합니다. 검증 IP, 테스트벤치, 합성 스크립트 및 타이밍 제약 조건을 포함한 프로세스 이식 가능하고 완전히 합성 가능한 RTL 코드와 정적 그래프 컴파일러, C++ 런타임 라이브러리 및 모델 동물원이 포함된 SDK가 포함되어 있습니다. 고객은 이를 자신의 시스템온칩에 통합하고 원하는 파운드리 및 프로세스 노드에서 제조합니다.
CEO인 Sean Hehir는 "고객은 신호 분류기나 언어 모델만 요구하는 것이 아닙니다. 그들은 동일한 제품에서 동일한 배터리를 사용하는 두 가지를 모두 원합니다."라고 말했습니다.
이번 출시는 업계 동향을 반영합니다. AI 하드웨어 병목 현상이 첨단 로직에서 성숙한 노드로 이동했으며, 메모리 대역폭과 비용이 생성 모델의 제약이 되었습니다. 일정한 메모리를 사용하여 에지에서 모델을 실행하는 것은 단어당 비용을 낮추는 새로운 방법입니다.
💬 Comments
No comments yet. Be the first!