N環球 
BrainChip представляет процессор Sequora IP для запуска генеративного искусственного интеллекта на периферийных устройствах с батарейным питанием
IP-ядро процессора Sequora компании BrainChip, выпущенное 21 октября, обеспечивает генеративный искусственный интеллект и LLM для периферийных устройств с батарейным питанием, таких как наушники и сенсорные узлы, с постоянными требованиями к памяти благодаря оптимизации модели в пространстве состояний. Теперь доступен для лицензирования.
Почему это важно
Следующее поле битвы в сфере периферийного искусственного интеллекта — без облака. 21 октября компания BrainChip объявила о выпуске своего IP-ядра процессора Sequora, позволяющего генеративному искусственному интеллекту и большим языковым моделям работать непосредственно на периферийных устройствах с батарейным питанием, таких как наушники и сенсорные узлы — от LLM-вывода на устройстве и голосового взаимодействия до агентов ИИ, локальных, без отправки данных в облако, что улучшает конфиденциальность и снижает задержку.
Sequora дополняет существующий нейроморфный процессор IP компании Akida: Akida обрабатывает потоковые данные датчиков (вибрация, звук, радар, необработанный радиочастотный IQ, биологические сигналы), а Sequora берет на себя генеративные и последовательные задачи искусственного интеллекта.
Полный отчет
Ключевой технической ставкой является оптимизация моделей в пространстве состояний (SSM), которые поддерживают состояние фиксированного размера для представления истории ввода, сохраняя постоянные требования к памяти независимо от длины последовательности, что подходит для генеративных рабочих нагрузок ИИ на устройствах с ограниченными ресурсами.
Sequora использует унифицированный массив умножения-накопления (MAC) как для обработки сигналов, так и для вычислений нейронной сети, устраняя необходимость в отдельном этапе предварительной обработки DSP, а ее архитектура набора команд позволяет развертывать новые алгоритмы посредством обновлений программного обеспечения.
IP-адрес уже доступен для лицензирования: переносимый для процесса, полностью синтезируемый код RTL, включая IP-проверку, тестовый стенд, сценарии синтеза и временные ограничения, а также SDK со статическим компилятором графов, библиотеку времени выполнения C++ и зоопарк моделей. Клиенты интегрируют его в свою собственную систему на кристалле и производят на литейном и технологическом узле по своему выбору.
Генеральный директор Шон Хехир сказал: «Клиентам нужен не просто классификатор сигналов или языковая модель. Им нужно и то, и другое, в одном продукте и на одной батарее».
Запуск отражает отраслевую тенденцию: узкое место в аппаратном обеспечении искусственного интеллекта перешло от передовой логики к зрелым узлам, а пропускная способность и стоимость памяти стали сдерживающим фактором для генеративных моделей. Запуск моделей на периферии с постоянной памятью — это новый путь к снижению стоимости одного слова.
💬 Comments
No comments yet. Be the first!