N環球 N GLOBE
美国・科技

辉达发布 Nemotron 3.5 开放模型,主攻企业 AI 智能体与本地 AI PC

· N GLOBE
🔊 听这篇新闻

辉达推出 1200 亿参数的 Nemotron 3.5 Super VL 与两款轻量 Bolt 模型,开放权重与训练配方,可在企业自有基础设施或本地 AI PC 上运行。

为何重要

辉达正在把「AI 智能体」的战场从云端拉向企业本地与个人电脑:Nemotron 3.5 系列全部开放权重、训练数据与训练配方,企业可以在自己的基础设施上用自有数据微调、部署,不必把敏感资料送上云端。这正是主权 AI 与企业隐私诉求下的关键一步。

全文报导

辉达于 10 月 15 日发布了 Nemotron 3.5 系列开放权重模型,锁定「常开型(always-on)智能体」与边缘运算。旗舰款为 Nemotron 3.5 Super VL,拥有 1200 亿参数,采用混合专家(MoE)架构,每次运算仅激活约 120 亿参数。辉达称,在指令跟随与工具调用等智能体任务上,它可达到自家大型推理模型 Nemotron 3 Ultra 的同等准确度。

辉达还声称,经过特定智能体任务微调后,Super VL 的任务完成速度快过 Anthropic 与 OpenAI 的同级模型(如 Opus 5、GPT 6.1 Sol),在官方 AI 分析排行榜上吞吐量高出同类模型最高达 5 倍——这类性能声明一向是厂商发布会的常态,需以独立评测为准。辉达列出的早期企业用户包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 与 Salesforce,模型已上架 Hugging Face、OpenRouter、ModelScope 与 NVIDIA NIM。

系列另有两款轻量 Bolt 模型,主攻本地运算:Nemotron 3.5 Bolt 74B-A9B 以原生 2 位元量化压进 24GB 显存,可在搭载辉达 RTX Spark 晶片的新款 AI PC 与 DGX Spark 工作站上本地运行智能体任务(多步骤推理、工具调用、网页浏览),合作伙伴微软与戴尔的相关 PC 正在上市。更小的 Bolt E4B(4GB)主打对话与语音助手,将在本月稍晚推出。

辉达开放模型与软体副总裁 Kari Briski 表示:「任何想在辉达基础设施上运行智能体的组织,现在都能找到为其层级优化的开放模型,不必在能力与可部署性之间二选一。」

💬 留言

暂时还没有留言,来抢沙发!