ਐਨਵੀਡੀਆ ਨੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਏਜੰਟਾਂ ਅਤੇ ਸਥਾਨਕ ਏਆਈ ਪੀਸੀ ਲਈ ਨੇਮੋਟ੍ਰੋਨ 3.5 ਓਪਨ ਮਾਡਲ ਲਾਂਚ ਕੀਤੇ

ਪੂਰੀ ਰਿਪੋਰਟ

15 ਅਕਤੂਬਰ ਨੂੰ, ਐਨਵੀਡੀਆ ਨੇ ਹਮੇਸ਼ਾ-ਆਨ ਏਜੰਟਾਂ ਅਤੇ ਕਿਨਾਰੇ ਕੰਪਿਊਟਿੰਗ ਲਈ ਬਣਾਏ ਗਏ ਓਪਨ-ਵੇਟ ਮਾਡਲਾਂ ਦੇ ਨਿਮੋਟ੍ਰੋਨ 3.5 ਪਰਿਵਾਰ ਨੂੰ ਜਾਰੀ ਕੀਤਾ। ਫਲੈਗਸ਼ਿਪ, Nemotron 3.5 Super VL, ਮਾਹਿਰਾਂ ਦੇ ਮਿਸ਼ਰਣ ਵਿੱਚ 120 ਬਿਲੀਅਨ ਮਾਪਦੰਡਾਂ ਨੂੰ ਪੈਕ ਕਰਦਾ ਹੈ ਜੋ ਪ੍ਰਤੀ ਟੋਕਨ ਸਿਰਫ 12 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਕਿਰਿਆਸ਼ੀਲ ਕਰਦਾ ਹੈ। ਐਨਵੀਡੀਆ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਨਿਰਦੇਸ਼-ਅਨੁਸਾਰ ਅਤੇ ਟੂਲ-ਵਰਤੋਂ ਏਜੰਟ ਕਾਰਜਾਂ 'ਤੇ ਇਸਦੇ ਵੱਡੇ ਤਰਕ ਮਾਡਲ, ਨੇਮੋਟ੍ਰੋਨ 3 ਅਲਟਰਾ ਦੀ ਸ਼ੁੱਧਤਾ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ।

ਕੰਪਨੀ ਇਹ ਵੀ ਦਾਅਵਾ ਕਰਦੀ ਹੈ ਕਿ ਸੁਪਰ VL ਐਂਥਰੋਪਿਕ ਅਤੇ ਓਪਨਏਆਈ (Opus 5, GPT 6.1 Sol) ਦੇ ਤੁਲਨਾਤਮਕ ਮਾਡਲਾਂ ਨਾਲੋਂ ਪੋਸਟ-ਟ੍ਰੇਂਡ ਏਜੰਟ ਕਾਰਜਾਂ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਪੂਰਾ ਕਰਦਾ ਹੈ ਅਤੇ 5 ਗੁਣਾ ਤੱਕ ਥ੍ਰੁਪੁੱਟ ਦੇ ਨਾਲ ਆਰਟੀਫਿਸ਼ੀਅਲ ਵਿਸ਼ਲੇਸ਼ਣ ਲੀਡਰਬੋਰਡ 'ਤੇ ਆਪਣੀ ਸ਼੍ਰੇਣੀ ਵਿੱਚ ਸਿਖਰ 'ਤੇ ਹੈ - ਇਸ ਕਿਸਮ ਦਾ ਦਾਅਵਾ ਜੋ ਹਰ ਵਿਕਰੇਤਾ ਲਾਂਚ ਦੇ ਨਾਲ ਹੁੰਦਾ ਹੈ ਅਤੇ ਸੁਤੰਤਰ ਤਸਦੀਕ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। Nvidia Skydance, EY, Ramp, Crowdstrike, Perplexity ਅਤੇ Salesforce ਸਮੇਤ ਸ਼ੁਰੂਆਤੀ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸੂਚੀਬੱਧ ਕਰਦਾ ਹੈ; ਮਾਡਲ ਹੱਗਿੰਗ ਫੇਸ, ਓਪਨ ਰਾਊਟਰ, ਮਾਡਲਸਕੋਪ ਅਤੇ NVIDIA NIM 'ਤੇ ਉਪਲਬਧ ਹੈ।

ਦੋ ਹਲਕੇ ਭਾਰ ਵਾਲੇ ਬੋਲਟ ਮਾਡਲ ਲੋਕਲ ਕੰਪਿਊਟ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦੇ ਹਨ: Nemotron 3.5 Bolt 74B-A9B 24GB ਮੈਮੋਰੀ ਵਿੱਚ ਫਿੱਟ ਕਰਨ ਲਈ ਨੇਟਿਵ 2-ਬਿੱਟ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ ਅਤੇ Nvidia RTX ਸਪਾਰਕ ਚਿਪਸ ਅਤੇ ਮਾਈਕ੍ਰੋਸਾਫਟ ਸਪਾਰਕ ਚਿੱਪਾਂ ਅਤੇ DXGSpark ਚਿੱਪਾਂ ਸਮੇਤ ਨਵੇਂ AI PCs ਦੇ ਨਾਲ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਏਜੰਟ ਟਾਸਕ (ਮਲਟੀ-ਸਟੈਪ ਤਰਕ, ਟੂਲ ਕਾਲਿੰਗ, ਵੈੱਬ ਬ੍ਰਾਊਜ਼ਿੰਗ) ਚਲਾਉਂਦਾ ਹੈ। ਡੈਲ. ਛੋਟਾ ਬੋਲਟ E4B (4GB), ਜਿਸਦਾ ਉਦੇਸ਼ ਵੌਇਸ ਅਸਿਸਟੈਂਟਸ ਅਤੇ ਗੱਲਬਾਤ ਕਰਨ ਵਾਲੇ ਏਜੰਟਾਂ 'ਤੇ ਹੈ, ਇਸ ਮਹੀਨੇ ਦੇ ਅੰਤ ਵਿੱਚ ਅੱਗੇ ਆਉਂਦਾ ਹੈ।

ਓਪਨ ਮਾਡਲਸ ਅਤੇ ਸੌਫਟਵੇਅਰ ਦੇ ਐਨਵੀਡੀਆ ਦੇ ਉਪ ਪ੍ਰਧਾਨ, ਕੈਰੀ ਬ੍ਰਿਸਕੀ ਨੇ ਕਿਹਾ: "ਕੋਈ ਵੀ ਸੰਸਥਾ ਜੋ ਐਨਵੀਡੀਆ ਬੁਨਿਆਦੀ ਢਾਂਚੇ 'ਤੇ ਏਜੰਟ ਚਲਾਉਣਾ ਚਾਹੁੰਦੀ ਹੈ, ਕੋਲ ਸਮਰੱਥਾ ਅਤੇ ਤੈਨਾਤੀ ਦੇ ਵਿਚਕਾਰ ਚੋਣ ਕੀਤੇ ਬਿਨਾਂ ਉਹਨਾਂ ਦੇ ਪੱਧਰ ਲਈ ਇੱਕ ਖੁੱਲਾ, ਅਨੁਕੂਲਿਤ ਮਾਡਲ ਹੈ।"