BrainChip ra mắt IP bộ xử lý Sequora để chạy Generative AI trên các thiết bị Edge chạy bằng pin

Báo cáo đầy đủ

Đặt cược kỹ thuật quan trọng là tối ưu hóa cho các mô hình không gian trạng thái (SSM), duy trì trạng thái có kích thước cố định để thể hiện lịch sử đầu vào, giữ cho yêu cầu bộ nhớ không đổi bất kể độ dài chuỗi - phù hợp với khối lượng công việc AI tổng hợp trên các thiết bị bị hạn chế về tài nguyên.

Sequora sử dụng mảng tích lũy nhân (MAC) thống nhất cho cả xử lý tín hiệu và tính toán mạng thần kinh, loại bỏ nhu cầu về giai đoạn tiền xử lý DSP riêng biệt và kiến ​​trúc bộ lệnh của nó cho phép triển khai các thuật toán mới thông qua các bản cập nhật phần mềm.

IP hiện có sẵn để cấp phép: mã RTL có thể di chuyển theo quy trình, có thể tổng hợp đầy đủ bao gồm IP xác minh, điểm kiểm tra, tập lệnh tổng hợp và ràng buộc về thời gian, cùng với SDK với trình biên dịch biểu đồ tĩnh, thư viện thời gian chạy C++ và vườn thú mô hình. Khách hàng tích hợp nó vào hệ thống trên chip của riêng họ và sản xuất tại nút đúc và xử lý mà họ lựa chọn.

Giám đốc điều hành Sean Hehir cho biết: "Khách hàng không chỉ yêu cầu một bộ phân loại tín hiệu hoặc một mô hình ngôn ngữ. Họ muốn cả hai, trong cùng một sản phẩm, trên cùng một loại pin."

Sự ra mắt này phản ánh một xu hướng trong ngành: nút thắt cổ chai phần cứng AI đã chuyển từ logic hàng đầu xuống các nút trưởng thành, đồng thời băng thông bộ nhớ và chi phí đã trở thành rào cản đối với các mô hình tổng quát. Chạy các mô hình biên với bộ nhớ không đổi là một hướng mới để giảm chi phí trên mỗi từ.