انویدیا مدل‌های باز Nemotron 3.5 را برای نمایندگان سازمانی و رایانه‌های شخصی هوش مصنوعی محلی راه‌اندازی می‌کند

گزارش کامل

در 15 اکتبر، Nvidia خانواده Nemotron 3.5 از مدل‌های وزن باز را منتشر کرد که برای عوامل همیشه فعال و محاسبات لبه‌ای ساخته شده بودند. پرچمدار Nemotron 3.5 Super VL دارای 120 میلیارد پارامتر در معماری ترکیبی از متخصصان است که تنها حدود 12 میلیارد پارامتر را در هر توکن فعال می کند. انویدیا می‌گوید که با دقت مدل استدلال بزرگ‌تر خود، Nemotron 3 Ultra، در وظایف عامل استفاده از ابزار و دنبال کردن دستورالعمل مطابقت دارد.

این شرکت همچنین ادعا می‌کند که Super VL وظایف نمایندگی پس از آموزش را سریع‌تر از مدل‌های مشابه آنتروپیک و OpenAI (Opus 5، GPT 6.1 Sol) تکمیل می‌کند و با حداکثر 5 برابر توان عملیاتی، در صدر کلاس خود در جدول امتیازات تحلیل مصنوعی قرار دارد - نوعی ادعا که با هر عرضه‌کننده‌ای همراه است و نیاز به تأیید مستقل دارد. انویدیا کاربران اولیه سازمانی از جمله Skydance، EY، Ramp، Crowdstrike، Perplexity و Salesforce را فهرست می‌کند. این مدل در Hugging Face، OpenRouter، ModelScope و NVIDIA NIM موجود است.

دو مدل بولت سبک وزن، محاسبات محلی را هدف قرار می‌دهند: Nemotron 3.5 Bolt 74B-A9B از کوانتیزاسیون 2 بیتی بومی برای قرار دادن در 24 گیگابایت حافظه استفاده می‌کند و وظایف عامل (استدلال چند مرحله‌ای، فراخوانی ابزار، مرور وب) را به‌صورت محلی روی رایانه‌های شخصی هوش مصنوعی جدید با تراشه‌های Nvidia RTX Spark Spark و شرکای مایکروسافت و DGX اجرا می‌کند. Bolt E4B کوچکتر (4 گیگابایت) که هدف آن دستیارهای صوتی و عوامل مکالمه است، اواخر این ماه عرضه می شود.

نایب رئیس مدل‌های باز و نرم‌افزار انویدیا، کاری بریسکی، گفت: «هر سازمانی که بخواهد نمایندگی‌ها را بر روی زیرساخت‌های انویدیا اجرا کند، اکنون یک مدل باز و بهینه‌شده برای سطح خود بدون نیاز به انتخاب بین قابلیت و قابلیت استقرار دارد».