BrainChip、バッテリー駆動のエッジデバイスで生成 AI を実行するための Sequora プロセッサ IP を発表

完全なレポート

主な技術的賭けは、状態空間モデル (SSM) の最適化です。SSM は、入力履歴を表す固定サイズの状態を維持し、シーケンスの長さに関係なくメモリ要件を一定に保ちます。これは、リソースに制約のあるデバイス上の生成 AI ワークロードに適しています。

Sequora は、信号処理とニューラル ネットワーク計算の両方に統合積和 (MAC) アレイを使用するため、個別の DSP 前処理ステージの必要性がなくなり、その命令セット アーキテクチャにより、ソフトウェア アップデートを通じて新しいアルゴリズムを展開できます。

この IP は、検証 IP、テストベンチ、合成スクリプト、タイミング制約を含むプロセス移植可能で完全に合成可能な RTL コードに加え、静的グラフ コンパイラ、C++ ランタイム ライブラリ、およびモデル ズーを備えた SDK のライセンスを取得できるようになりました。顧客はそれを独自のシステムオンチップに統合し、選択したファウンドリおよびプロセスノードで製造します。

CEOのショーン・ヘヒル氏は、「顧客は信号分類器や言語モデルだけを求めているわけではない。同じ製品、同じバッテリーで両方を求めているのだ」と語った。

この発表は業界のトレンドを反映しています。AI ハードウェアのボトルネックが最先端のロジックから成熟したノードに移り、メモリ帯域幅とコストが生成モデルの制約になっています。一定のメモリを使用してエッジでモデルを実行することは、単語あたりのコストを削減するための新しい手段です。