ਇਨਸੈਪਸ਼ਨ ਨੇ ਮਰਕਰੀ 3 ਨੂੰ ਲਾਂਚ ਕੀਤਾ, 1M-ਟੋਕਨ ਸੰਦਰਭ ਅਤੇ 1,000+ ਟੋਕਨ ਪ੍ਰਤੀ ਸਕਿੰਟ ਦੇ ਨਾਲ, ਇਸਦਾ ਹੁਣ ਤੱਕ ਦਾ ਸਭ ਤੋਂ ਤੇਜ਼ ਪ੍ਰਸਾਰ LLM

ਪੂਰੀ ਰਿਪੋਰਟ

ਇਨਸੈਪਸ਼ਨ ਨੇ 19 ਅਕਤੂਬਰ ਨੂੰ ਇੱਕ ਪ੍ਰੈਸ ਰਿਲੀਜ਼ ਵਿੱਚ ਮਰਕਰੀ 3 ਦੀ ਘੋਸ਼ਣਾ ਕੀਤੀ। ਮਾਡਲ NVIDIA GPUs 'ਤੇ 1,068 ਟੋਕਨ ਪ੍ਰਤੀ ਸਕਿੰਟ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਇਸਨੂੰ 1,000-ਟੋਕਨ-ਪ੍ਰਤੀ-ਸੈਕਿੰਡ ਬਾਰ ਤੋਂ ਉੱਪਰ ਰੱਖਦੇ ਹੋਏ, ਜਿਸ ਲਈ ਮਰਕਰੀ ਲਾਈਨ ਜਾਣੀ ਜਾਂਦੀ ਹੈ।

ਸੰਦਰਭ ਵਿੰਡੋ ਇੱਕ ਮਿਲੀਅਨ ਟੋਕਨਾਂ ਤੱਕ ਵਧਦੀ ਹੈ, ਮਰਕਰੀ 2.5 ਦੇ 260,000 ਤੋਂ ਲਗਭਗ ਚਾਰ ਗੁਣਾ। ਇਨਸੈਪਸ਼ਨ ਕਹਿੰਦਾ ਹੈ ਕਿ ਮਰਕਰੀ 3 ਕੁੱਲ ਪੈਰਾਮੀਟਰਾਂ ਵਿੱਚ ਮਰਕਰੀ 1 ਦੇ ਆਕਾਰ ਤੋਂ 40 ਗੁਣਾ ਵੱਧ ਹੈ, ਜਿਸ ਵਿੱਚ ਮਿਆਰੀ ਬੈਂਚਮਾਰਕਾਂ ਦੀ ਇੱਕ ਰੇਂਜ ਵਿੱਚ ਬੁੱਧੀਮਾਨਤਾ ਲਗਭਗ ਮਰਕਰੀ 1 (ਮਿਨੀ) ਤੋਂ ਮਰਕਰੀ 3 ਤੱਕ ਤਿੰਨ ਗੁਣਾ ਹੈ। ਇਹ ਕੰਪਨੀ ਦੀਆਂ ਆਪਣੀਆਂ ਤੁਲਨਾਵਾਂ ਹਨ; ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਅਜੇ ਪ੍ਰਕਾਸ਼ਿਤ ਨਹੀਂ ਕੀਤੇ ਗਏ ਹਨ।

ਸਟੈਂਡਰਡ ਕੀਮਤ $0.20 ਪ੍ਰਤੀ ਮਿਲੀਅਨ ਇਨਪੁਟ ਟੋਕਨ ਅਤੇ $0.70 ਪ੍ਰਤੀ ਮਿਲੀਅਨ ਆਉਟਪੁੱਟ ਟੋਕਨ, $0.10 ਅਤੇ $0.35 ਦੀ ਲਾਂਚ ਕੀਮਤ ਦੇ ਨਾਲ ਹੈ। ਕੈਸ਼ਡ ਇਨਪੁਟ ਟੋਕਨ $0.02 ਪ੍ਰਤੀ ਮਿਲੀਅਨ (ਪ੍ਰਮੋਸ਼ਨ ਦੇ ਅਧੀਨ $0.01) 'ਤੇ ਸੂਚੀਬੱਧ ਹਨ।

ਮਰਕਰੀ 3 ਇਨਸੈਪਸ਼ਨ API, ਓਪਨ ਰਾਊਟਰ, ਬੇਸੇਟਨ ਅਤੇ ਵਰਸੇਲ ਦੁਆਰਾ ਉਪਲਬਧ ਹੈ, ਅਤੇ OpenAI API ਫਾਰਮੈਟ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਸ਼ੁਰੂਆਤੀ ਗਾਹਕ ਪਹਿਲਾਂ ਹੀ ਇਸ ਨੂੰ ਬ੍ਰਾਊਜ਼ਰ-ਯੂਜ਼ ਏਜੰਟ, ਇੰਟਰਐਕਟਿਵ ਐਜੂਕੇਸ਼ਨ, ਰੀਅਲ-ਟਾਈਮ ਖੋਜ ਏਜੰਟ ਅਤੇ ਗਾਹਕ ਸਹਾਇਤਾ ਲਈ ਵਰਤ ਰਹੇ ਹਨ।

ਸਹਿ-ਸੰਸਥਾਪਕ ਸਟੀਫਨੋ ਅਰਮੋਨ ਨੇ ਕਿਹਾ ਕਿ ਮਰਕਰੀ 1 ਤੋਂ ਬਾਅਦ ਸਭ ਤੋਂ ਵੱਧ ਸੁਣਿਆ ਗਿਆ ਸਵਾਲ ਇਹ ਹੈ ਕਿ ਕੀ ਫੈਲਾਅ ਸਕੇਲ ਕਰ ਸਕਦਾ ਹੈ। ਮਰਕਰੀ 3 ਦਾ ਜਵਾਬ: ਸਕੇਲਿੰਗ ਡਿਫਿਊਜ਼ਨ ਮਾਡਲਾਂ ਦੀਆਂ ਸੀਮਾਵਾਂ ਗਣਨਾ ਅਤੇ ਡੇਟਾ ਹਨ, ਨਾ ਕਿ ਬੁਨਿਆਦੀ ਐਲਗੋਰਿਦਮਿਕ ਰੁਕਾਵਟਾਂ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਅਗਲੇ ਮਾਡਲ ਦੀ ਸਿਖਲਾਈ ਸ਼ੁਰੂ ਹੋ ਚੁੱਕੀ ਹੈ।

ਇਹ ਜੂਨ 2025 ਵਿੱਚ ਮਰਕਰੀ 1 ਤੋਂ ਬਾਅਦ ਸ਼ੁਰੂਆਤ ਦੀ ਚੌਥੀ ਰੀਲੀਜ਼ ਹੈ: ਮਰਕਰੀ 2 ਨੇ ਪ੍ਰਸਾਰ ਮਾਡਲਾਂ ਲਈ ਤਰਕ ਪੇਸ਼ ਕੀਤਾ, ਮਰਕਰੀ 2.5 ਨੇ ਟਿਊਨੇਬਲ ਤਰਕ ਅਤੇ ਇੱਕ ਵੱਡੀ ਸੰਦਰਭ ਵਿੰਡੋ ਸ਼ਾਮਲ ਕੀਤੀ, ਅਤੇ ਮਰਕਰੀ 3 ਕਿਸੇ ਵੀ ਮਰਕਰੀ ਰੀਲੀਜ਼ ਦੀ ਬੁੱਧੀ ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਡੀ ਛਾਲ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।