Nvidia、エンタープライズ エージェントおよびローカル AI PC 向けの Nemotron 3.5 オープン モデルを発表

完全なレポート

10 月 15 日、Nvidia は、常時稼働エージェントとエッジ コンピューティング向けに構築されたオープンウェイト モデルの Nemotron 3.5 ファミリをリリースしました。フラッグシップである Nemotron 3.5 Super VL は、専門家混合アーキテクチャに 1,200 億のパラメータを詰め込んでおり、トークンごとに約 120 億のパラメータのみを有効にします。 Nvidia は、指示に従うタスクやツールを使用するエージェント タスクに関しては、同社のより大きな推論モデルである Nemotron 3 Ultra の精度と同等であると述べています。

同社はまた、Super VL は、Anthropic や OpenAI の同等のモデル (Opus 5、GPT 6.1 Sol) よりも速く、トレーニング後のエージェント タスクを完了し、最大 5 倍のスループットで Artificial Analysis リーダーボードのクラスのトップにあると主張しています。これは、すべてのベンダーの発売に伴う類の主張であり、独立した検証が必要です。 Nvidia は、Skydance、EY、Ramp、Crowdstrike、Perplexity、Salesforce などの初期のエンタープライズ ユーザーをリストに挙げています。このモデルは、Hugging Face、OpenRouter、ModelScope、および NVIDIA NIM で利用できます。

2 つの軽量の Bolt モデルは、ローカル コンピューティングをターゲットとしています。Nemotron 3.5 Bolt 74B-A9B は、ネイティブ 2 ビット量子化を使用して 24GB のメモリに収まり、Nvidia RTX Spark チップと DGX Spark ワークステーションを搭載した新しい AI PC でエージェント タスク (マルチステップ推論、ツール呼び出し、Web ブラウジング) をローカルで実行します。現在、Microsoft や Dell などのパートナーを通じて出荷されています。音声アシスタントや会話エージェント向けの小型のBolt E4B (4GB)も今月下旬に発売される。

Nvidia のオープン モデルおよびソフトウェア担当バイスプレジデント、Kari Briski 氏は次のように述べています。「Nvidia インフラストラクチャ上でエージェントを実行したい組織は、機能と展開性のどちらかを選択する必要がなく、階層に合わせてオープンで最適化されたモデルを手に入れることができます。」