輝達發布 Nemotron 3.5 開放模型,主攻企業 AI 智能體與本地 AI PC

輝達推出 1200 億參數的 Nemotron 3.5 Super VL 與兩款輕量 Bolt 模型,開放權重與訓練配方,可在企業自有基礎設施或本地 AI PC 上運行。
為何重要
輝達正在把「AI 智能體」的戰場從雲端拉向企業本地與個人電腦:Nemotron 3.5 系列全部開放權重、訓練數據與訓練配方,企業可以在自己的基礎設施上用自有數據微調、部署,不必把敏感資料送上雲端。這正是主權 AI 與企業隱私訴求下的關鍵一步。
全文報導
輝達於 10 月 15 日發布了 Nemotron 3.5 系列開放權重模型,鎖定「常開型(always-on)智能體」與邊緣運算。旗艦款為 Nemotron 3.5 Super VL,擁有 1200 億參數,採用混合專家(MoE)架構,每次運算僅激活約 120 億參數。輝達稱,在指令跟隨與工具調用等智能體任務上,它可達到自家大型推理模型 Nemotron 3 Ultra 的同等準確度。
輝達還聲稱,經過特定智能體任務微調後,Super VL 的任務完成速度快過 Anthropic 與 OpenAI 的同級模型(如 Opus 5、GPT 6.1 Sol),在官方 AI 分析排行榜上吞吐量高出同類模型最高達 5 倍——這類性能聲明一向是廠商發佈會的常態,需以獨立評測為準。輝達列出的早期企業用戶包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 與 Salesforce,模型已上架 Hugging Face、OpenRouter、ModelScope 與 NVIDIA NIM。
系列另有兩款輕量 Bolt 模型,主攻本地運算:Nemotron 3.5 Bolt 74B-A9B 以原生 2 位元量化壓進 24GB 顯存,可在搭載輝達 RTX Spark 晶片的新款 AI PC 與 DGX Spark 工作站上本地運行智能體任務(多步驟推理、工具調用、網頁瀏覽),合作夥伴微軟與戴爾的相關 PC 正在上市。更小的 Bolt E4B(4GB)主打對話與語音助手,將在本月稍晚推出。
輝達開放模型與軟體副總裁 Kari Briski 表示:「任何想在輝達基礎設施上運行智能體的組織,現在都能找到為其層級優化的開放模型,不必在能力與可部署性之間二選一。」
N環球 
💬 留言
暫時還沒有留言,來搶沙發!