N環球 N GLOBE
بین المللی · فناوری

BrainChip IP پردازنده Sequora را برای اجرای هوش مصنوعی مولد روی دستگاه‌های Edge با باتری راه‌اندازی کرد.

· N GLOBE

هسته IP پردازنده Sequora BrainChip که در 21 اکتبر منتشر شد، هوش مصنوعی و LLM های مولد را به دستگاه های لبه ای با باتری مانند هدفون ها و گره های حسگر، با نیاز به حافظه ثابت به لطف بهینه سازی مدل حالت-فضا، می آورد. اکنون برای صدور مجوز در دسترس است.

چرا مهم است

میدان نبرد بعدی در Edge AI بدون ابر اجرا می شود. BrainChip در 21 اکتبر از انتشار هسته IP پردازنده Sequora خود خبر داد که به هوش مصنوعی مولد و مدل‌های زبان بزرگ امکان می‌دهد مستقیماً بر روی دستگاه‌های لبه باتری مانند هدفون‌ها و گره‌های حسگر اجرا شوند - از استنتاج LLM روی دستگاه و تعامل صدا به صدا گرفته تا عوامل هوش مصنوعی، تماماً محلی، بدون ارسال اطلاعات محرمانه به فضای ابری.

Sequora تکمیل کننده IP پردازنده عصبی Akida موجود در شرکت است: Akida داده‌های حسگر جریانی (ارتعاش، صدا، رادار، IQ خام RF، سیگنال‌های بیولوژیکی) را کنترل می‌کند در حالی که Sequora وظایف هوش مصنوعی تولیدی و متوالی را بر عهده می‌گیرد.

گزارش کامل

شرط فنی کلیدی، بهینه‌سازی برای مدل‌های فضای حالت (SSM) است، که یک حالت با اندازه ثابت را برای نمایش سابقه ورودی حفظ می‌کنند و نیازهای حافظه را بدون توجه به طول دنباله ثابت نگه می‌دارند - مناسب برای بارهای کاری هوش مصنوعی مولد در دستگاه‌های با محدودیت منابع.

Sequora از یک آرایه یکپارچه چند برابری انباشته (MAC) برای پردازش سیگنال و محاسبات شبکه عصبی استفاده می‌کند و نیاز به یک مرحله پیش‌پردازش DSP جداگانه را از بین می‌برد و معماری مجموعه دستورالعمل‌های آن اجازه می‌دهد تا الگوریتم‌های جدید از طریق به‌روزرسانی‌های نرم‌افزاری مستقر شوند.

IP اکنون برای صدور مجوز در دسترس است: کد RTL قابل حمل با فرآیند و کاملاً قابل ترکیب شامل IP تأیید، تست، اسکریپت‌های ترکیبی و محدودیت‌های زمان‌بندی، به‌علاوه یک SDK با یک کامپایلر گراف استاتیک، یک کتابخانه زمان اجرا C++ و یک باغ‌وحش مدل. مشتریان آن را در سیستم روی تراشه خود ادغام کرده و در گره ریخته گری و فرآیند مورد نظر خود تولید می کنند.

مدیرعامل شان هیر گفت: "مشتریان فقط یک طبقه‌بندی سیگنال یا یک مدل زبان نمی‌خواهند. آنها هر دو را در یک محصول و با یک باتری می‌خواهند."

این راه‌اندازی بازتاب یک روند صنعتی است: تنگنای سخت‌افزاری هوش مصنوعی از منطق پیشرو به گره‌های بالغ منتقل شده است و پهنای باند حافظه و هزینه به بند مدل‌های تولیدی تبدیل شده‌اند. اجرای مدل ها در لبه با حافظه ثابت مسیر جدیدی برای کاهش هزینه هر کلمه است.

💬 Comments

No comments yet. Be the first!