ব্রেনচিপ ব্যাটারি চালিত এজ ডিভাইসে জেনারেটিভ এআই চালানোর জন্য সিকোরা প্রসেসর আইপি চালু করেছে

BrainChip-এর Sequora প্রসেসর আইপি কোর, 21 অক্টোবর প্রকাশিত হয়েছে, স্টেট-স্পেস মডেল অপ্টিমাইজেশানের জন্য ধ্রুবক মেমরির প্রয়োজনীয়তার সাথে ইয়ারবাড এবং সেন্সর নোডের মতো ব্যাটারি-চালিত এজ ডিভাইসগুলিতে জেনারেটিভ AI এবং LLM এনেছে। এখন লাইসেন্সিং জন্য উপলব্ধ.
কেন এটা গুরুত্বপূর্ণ
এজ এআই-এর পরবর্তী যুদ্ধক্ষেত্রটি মেঘ ছাড়াই চলছে। BrainChip 21 অক্টোবর তার Sequora প্রসেসর আইপি কোর প্রকাশের ঘোষণা করেছে, জেনারেটিভ AI এবং বড় ল্যাঙ্গুয়েজ মডেলগুলিকে সরাসরি ব্যাটারি-চালিত এজ ডিভাইস যেমন ইয়ারবাড এবং সেন্সর নোডগুলিতে চালানোর জন্য সক্ষম করে — ডিভাইসের LLM ইনফারেন্স এবং ভয়েস-টু-ভয়েস ইন্টারঅ্যাকশন থেকে AI এজেন্টদের সাথে, ক্লাউডের সাথে স্থানীয়, ক্লাউডের কোনো ডেটা পাঠানো হয় না।
সিকোরা কোম্পানির বিদ্যমান আকিদা নিউরোমর্ফিক প্রসেসর আইপিকে পরিপূরক করে: আকিদা স্ট্রিমিং সেন্সর ডেটা (কম্পন, অডিও, রাডার, কাঁচা আরএফ আইকিউ, জৈবিক সংকেত) পরিচালনা করে যখন সিকোরা জেনারেটিভ এবং অনুক্রমিক এআই কাজগুলি গ্রহণ করে।
সম্পূর্ণ প্রতিবেদন
মূল প্রযুক্তিগত বাজি হল স্টেট-স্পেস মডেলের (SSMs) জন্য অপ্টিমাইজেশান, যা ইনপুট ইতিহাসের প্রতিনিধিত্ব করার জন্য একটি নির্দিষ্ট-আকারের অবস্থা বজায় রাখে, ক্রম দৈর্ঘ্য নির্বিশেষে মেমরির প্রয়োজনীয়তাগুলি স্থির রাখে — সংস্থান-সীমাবদ্ধ ডিভাইসগুলিতে জেনারেটিভ এআই ওয়ার্কলোডের জন্য উপযুক্ত।
সিকোরা সিগন্যাল প্রসেসিং এবং নিউরাল-নেটওয়ার্ক কম্পিউটেশন উভয়ের জন্য একটি ইউনিফাইড মাল্টিপ্লাই-অ্যাকুমুলেট (MAC) অ্যারে ব্যবহার করে, একটি পৃথক ডিএসপি প্রিপ্রসেসিং পর্যায়ের প্রয়োজনীয়তা দূর করে, এবং এর নির্দেশ-সেট আর্কিটেকচার সফ্টওয়্যার আপডেটের মাধ্যমে নতুন অ্যালগরিদম স্থাপন করার অনুমতি দেয়।
আইপি এখন লাইসেন্সের জন্য উপলব্ধ: প্রক্রিয়া-পোর্টেবল, সম্পূর্ণ সংশ্লেষযোগ্য RTL কোড সহ যাচাইকরণ আইপি, টেস্টবেঞ্চ, সংশ্লেষণ স্ক্রিপ্ট এবং সময়সীমার সীমাবদ্ধতা, প্লাস স্ট্যাটিক গ্রাফ কম্পাইলার সহ একটি SDK, একটি C++ রানটাইম লাইব্রেরি এবং একটি মডেল চিড়িয়াখানা। গ্রাহকরা এটিকে তাদের নিজস্ব সিস্টেম-অন-চিপে একত্রিত করে এবং তাদের পছন্দের ফাউন্ড্রি এবং প্রসেস নোডে তৈরি করে।
সিইও শন হেহির বলেছেন: "গ্রাহকরা শুধুমাত্র একটি সংকেত শ্রেণিবদ্ধকারী বা একটি ভাষা মডেলের জন্য জিজ্ঞাসা করছেন না। তারা উভয়ই একই পণ্যে, একই ব্যাটারিতে চান।"
লঞ্চটি একটি শিল্পের প্রবণতাকে প্রতিধ্বনিত করে: AI হার্ডওয়্যার বটলনেক লিডিং-এজ লজিক থেকে পরিপক্ক নোডে চলে গেছে, এবং মেমরি ব্যান্ডউইথ এবং খরচ জেনারেটিভ মডেলের উপর চাপা পড়ে গেছে। ধ্রুবক মেমরির সাথে প্রান্তে মডেল চালানো হচ্ছে প্রতি-শব্দ খরচ কমানোর একটি নতুন পথ।
N環球 
💬 Comments
No comments yet. Be the first!