N環球 N GLOBE
Teknolohiya ng US

Inilunsad ng Nvidia ang mga bukas na modelo ng Nemotron 3.5 para sa mga ahente ng negosyo at mga lokal na AI PC

· N GLOBE

Ang bagong 120-bilyong-parameter na Nemotron 3.5 Super VL ng Nvidia at dalawang magaan na modelo ng Bolt ay ipinadala na may mga bukas na timbang, mga dataset at mga recipe ng pagsasanay, na nagta-target ng mga palaging naka-on na ahente sa enterprise at sa mga lokal na AI PC.

Bakit ito mahalaga

Hinahatak ng Nvidia ang larangan ng digmaan ng AI-agent mula sa cloud at papunta sa enterprise at sa personal na computer: ang buong Nemotron 3.5 na pamilya ay nagpapadala ng mga bukas na timbang, mga dataset at mga recipe ng pagsasanay, upang ang mga kumpanya ay maaaring mag-fine-tune at mag-deploy sa kanilang sariling imprastraktura gamit ang kanilang sariling data - isang mahalagang hakbang habang hinihiling ng mga kumpanya ang soberanya at privacy ng data.

Buong ulat

Noong Oktubre 15, inilabas ni Nvidia ang Nemotron 3.5 na pamilya ng mga open-weight na modelo na binuo para sa mga ahenteng laging naka-on at edge computing. Ang punong barko, ang Nemotron 3.5 Super VL, ay naglalaman ng 120 bilyong mga parameter sa isang pinaghalong arkitektura ng mga eksperto na nag-a-activate lamang ng halos 12 bilyong mga parameter bawat token. Sinabi ni Nvidia na tumutugma ito sa katumpakan ng mas malaking modelo ng pangangatwiran nito, ang Nemotron 3 Ultra, sa mga gawain ng ahente sa pagsunod sa pagtuturo at paggamit ng tool.

Sinasabi rin ng kumpanya na nakumpleto ng Super VL ang mga post-trained agentic na gawain nang mas mabilis kaysa sa maihahambing na mga modelo mula sa Anthropic at OpenAI (Opus 5, GPT 6.1 Sol) at nangunguna sa klase nito sa leaderboard ng Artificial Analysis na may hanggang 5x ang throughput — ang uri ng claim na kasama ng bawat paglulunsad ng vendor at nangangailangan ng independiyenteng pag-verify. Inililista ng Nvidia ang mga unang user ng enterprise kabilang ang Skydance, EY, Ramp, Crowdstrike, Perplexity at Salesforce; available ang modelo sa Hugging Face, OpenRouter, ModelScope at NVIDIA NIM.

Dalawang magaan na modelo ng Bolt ang nagta-target ng lokal na compute: Ang Nemotron 3.5 Bolt 74B-A9B ay gumagamit ng native na 2-bit na quantization upang magkasya sa 24GB ng memorya at nagpapatakbo ng mga gawain ng ahente (multi-step na pangangatwiran, tool na pagtawag, pag-browse sa web) nang lokal sa mga bagong AI PC na may Nvidia RTX Spark chips at DGX Spark sa pamamagitan ng mga kasosyong workstation, ngayon at sa pagpapadala ng Microsoft Ang mas maliit na Bolt E4B (4GB), na naglalayon sa mga voice assistant at mga ahente sa pakikipag-usap, ay susunod sa huling bahagi ng buwang ito.

Ang vice president ng Nvidia ng Open Models and Software, si Kari Briski, ay nagsabi: "Anumang organisasyon na gustong magpatakbo ng mga ahente sa imprastraktura ng Nvidia ay mayroon na ngayong bukas, na-optimize na modelo para sa kanilang tier nang hindi kinakailangang pumili sa pagitan ng kakayahan at deployability."

💬 Comments

No comments yet. Be the first!