엔비디아, 기업 에이전트와 로컬 AI PC용 Nemotron 3.5 개방형 모델 출시

전체 보고서

10월 15일, Nvidia는 Always-On 에이전트와 엣지 컴퓨팅을 위해 제작된 개방형 모델 Nemotron 3.5 제품군을 출시했습니다. 주력 제품인 Nemotron 3.5 Super VL은 토큰당 약 120억 개의 매개변수만 활성화하는 전문가 혼합 아키텍처에 1,200억 개의 매개변수를 포함합니다. Nvidia는 지시 따르기 및 도구 사용 에이전트 작업에서 더 큰 추론 모델인 Nemotron 3 Ultra의 정확성과 일치한다고 말합니다.

또한 회사는 Super VL이 Anthropic 및 OpenAI(Opus 5, GPT 6.1 Sol)의 유사한 모델보다 더 빠르게 훈련 후 에이전트 작업을 완료하고 최대 5배의 처리량으로 인공 분석 순위표에서 동급 최고라고 주장합니다. 이는 모든 공급업체 출시에 수반되며 독립적인 검증이 필요한 종류의 주장입니다. Nvidia는 Skydance, EY, Ramp, Crowdstrike, Perplexity 및 Salesforce를 포함한 초기 기업 사용자를 나열합니다. 이 모델은 Hugging Face, OpenRouter, ModelScope 및 NVIDIA NIM에서 사용할 수 있습니다.

두 가지 경량 Bolt 모델은 로컬 컴퓨팅을 대상으로 합니다. Nemotron 3.5 Bolt 74B-A9B는 기본 2비트 양자화를 사용하여 24GB 메모리에 적합하고 Nvidia RTX Spark 칩 및 DGX Spark 워크스테이션이 장착된 새로운 AI PC에서 로컬로 에이전트 작업(다단계 추론, 도구 호출, 웹 브라우징)을 실행합니다. 현재 Microsoft 및 Dell을 포함한 파트너를 통해 배송됩니다. 음성 비서와 대화 에이전트를 겨냥한 더 작은 Bolt E4B(4GB)가 이달 말에 출시됩니다.

Nvidia의 개방형 모델 및 소프트웨어 담당 부사장인 Kari Briski는 "Nvidia 인프라에서 에이전트를 실행하려는 모든 조직은 이제 기능과 배포 가능성 사이에서 선택할 필요 없이 해당 계층에 최적화된 개방형 모델을 갖게 되었습니다."라고 말했습니다.