Tencent ਨੇ Hy4 ਓਪਨ ਵੇਟਸ: 770B-ਪੈਰਾਮੀਟਰ ਫਲੈਗਸ਼ਿਪ ਨੂੰ ਨਵੀਆਂ ਲਾਇਸੈਂਸ ਸ਼ਰਤਾਂ ਨਾਲ ਜਾਰੀ ਕੀਤਾ

Tencent ਨੇ 20 ਨਵੰਬਰ ਨੂੰ ਹੱਗਿੰਗ ਫੇਸ, ਮਾਡਲਸਕੋਪ ਅਤੇ ਗਿੱਟਕੋਡ 'ਤੇ ਆਪਣੇ ਫਲੈਗਸ਼ਿਪ ਮਾਡਲ Hy4 ਦੇ ਪੂਰੇ ਵਜ਼ਨ ਜਾਰੀ ਕੀਤੇ, ਜਿਸ ਵਿੱਚ ਨਿਰਦੇਸ਼-ਟਿਊਨਡ ਸੰਸਕਰਣ, ਇੱਕ FP8 ਮਾਤਰਾ ਵਾਲਾ ਸੰਸਕਰਣ ਅਤੇ ਇੱਕ ਸਿਸਟਮ ਕਾਰਡ ਦੇ ਨਾਲ ਪ੍ਰੀ-ਟ੍ਰੇਂਡ ਬੇਸ ਸ਼ਾਮਲ ਹਨ। ਅਧਿਕਾਰਤ ਵਜ਼ਨ ਨਵੇਂ Tencent Hy ਲਾਇਸੈਂਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਜਿਸ ਦੇ ਤਹਿਤ ਵੱਡੇ ਮਾਡਲ API ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਵੱਖਰੇ ਲਿਖਤੀ ਅਧਿਕਾਰ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
Tencent ਨੇ ਡਾਊਨਲੋਡ ਕਰਨ ਲਈ ਆਪਣੇ ਫਲੈਗਸ਼ਿਪ ਵੱਡੇ ਮਾਡਲ Hy4 ਦੇ ਪੂਰੇ ਵਜ਼ਨ ਜਾਰੀ ਕੀਤੇ ਹਨ, ਜੋ ਹੱਗਿੰਗ ਫੇਸ, ਮਾਡਲਸਕੋਪ ਅਤੇ ਗਿੱਟਕੋਡ 'ਤੇ ਉਪਲਬਧ ਹਨ। ਰੀਲੀਜ਼ ਵਿੱਚ ਮਾਡਲ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਸੀਮਾਵਾਂ ਦਾ ਵਰਣਨ ਕਰਨ ਵਾਲੇ ਇੱਕ ਸਿਸਟਮ ਕਾਰਡ ਦੇ ਨਾਲ-ਨਾਲ ਹਦਾਇਤ-ਟਿਊਨਡ Hy4, FP8-ਮਾਤਰਿਤ Hy4-FP8 ਅਤੇ ਪ੍ਰੀ-ਟ੍ਰੇਂਡ ਬੇਸ ਮਾਡਲ Hy4-ਬੇਸ ਸ਼ਾਮਲ ਹਨ। ਇਹ 20 ਨਵੰਬਰ ਨੂੰ 03:52 UTC ਜਾਂ 19 ਨਵੰਬਰ ਨੂੰ 22:52 EST 'ਤੇ ਘੋਸ਼ਿਤ ਕੀਤਾ ਗਿਆ ਸੀ।
770 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰ, ਇੱਕ ਮਿਲੀਅਨ-ਟੋਕਨ ਵਿੰਡੋ
Hy4 770 ਬਿਲੀਅਨ ਕੁੱਲ ਪੈਰਾਮੀਟਰਾਂ, ਲਗਭਗ 49 ਬਿਲੀਅਨ ਪ੍ਰਤੀ ਟੋਕਨ, 78 ਲੇਅਰਾਂ ਅਤੇ ਲਗਭਗ 10 ਲੱਖ ਟੋਕਨਾਂ ਦੀ ਇੱਕ ਸੰਦਰਭ ਵਿੰਡੋ ਦੇ ਨਾਲ ਇੱਕ ਮਿਸ਼ਰਣ-ਆਫ-ਐਕਸਪਰਟਸ (MoE) ਆਰਕੀਟੈਕਚਰ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਇਹ ਟੈਕਸਟ, ਚਿੱਤਰ ਅਤੇ ਵੀਡੀਓ ਸਮਝ ਦੇ ਨਾਲ-ਨਾਲ ਕੰਪਿਊਟਰ ਦੀ ਵਰਤੋਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਅਤੇ Tencent ਨੇ vLLM ਅਤੇ SGLang ਲਈ ਡਿਪਲਾਇਮੈਂਟ ਗਾਈਡ ਪ੍ਰਦਾਨ ਕੀਤੇ ਹਨ ਤਾਂ ਜੋ ਡਿਵੈਲਪਰ ਇਸਨੂੰ ਆਪਣੇ ਹਾਰਡਵੇਅਰ 'ਤੇ ਚਲਾ ਸਕਣ। 4 ਨਵੰਬਰ ਨੂੰ ਏਪੀਆਈ ਸੇਵਾ ਦੇ ਤੌਰ 'ਤੇ ਆਪਣੀ ਅਧਿਕਾਰਤ ਸ਼ੁਰੂਆਤ ਤੋਂ ਮਾਡਲ ਆਪਣੇ ਆਪ ਵਿੱਚ ਕੋਈ ਬਦਲਾਅ ਨਹੀਂ ਹੈ।
ਨਵਾਂ ਲਾਇਸੈਂਸ: ਵੱਡੇ ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਵੱਖਰੇ ਅਧਿਕਾਰ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ
ਖਾਸ ਤੌਰ 'ਤੇ, ਅਧਿਕਾਰਤ ਵਜ਼ਨ ਲਈ ਲਾਇਸੈਂਸ ਅਗਸਤ ਦੇ ਪ੍ਰੀਵਿਊ ਤੋਂ ਵੱਖਰਾ ਹੈ, ਜਿਸ ਨੇ ਅਪਾਚੇ 2.0 ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਸੀ। ਪੂਰੀ ਰੀਲੀਜ਼ ਨਵੇਂ Tencent Hy ਲਾਇਸੈਂਸ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ। Apache 2.0 ਤੋਂ ਲਿਆ ਗਿਆ, ਇਹ ਵੱਡੇ ਮਾਡਲ API ਪ੍ਰਦਾਤਾਵਾਂ ਲਈ ਇੱਕ ਸ਼ਰਤ ਜੋੜਦਾ ਹੈ: US$50 ਮਿਲੀਅਨ ਜਾਂ 100 ਮਿਲੀਅਨ ਤੋਂ ਵੱਧ ਮਾਸਿਕ ਸਰਗਰਮ ਉਪਭੋਗਤਾਵਾਂ ਤੋਂ ਵੱਧ ਸਾਲਾਨਾ ਆਮਦਨ ਵਾਲੇ ਉਤਪਾਦਾਂ ਨੂੰ Tencent ਤੋਂ ਵੱਖਰੇ ਲਿਖਤੀ ਅਧਿਕਾਰ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਕੁਝ ਰਿਪੋਰਟਾਂ ਅਜੇ ਵੀ ਅਪਾਚੇ 2.0 ਦੇ ਰੂਪ ਵਿੱਚ ਰੀਲੀਜ਼ ਦਾ ਵਰਣਨ ਕਰਦੀਆਂ ਹਨ, ਜੋ ਕਿ ਮਾਡਲ ਕਾਰਡ ਨਾਲ ਟਕਰਾਅ ਕਰਦੀਆਂ ਹਨ; ਮਾਡਲ ਕਾਰਡ ਨਿਯੰਤ੍ਰਿਤ ਕਰਦਾ ਹੈ।
API ਤੋਂ ਇੱਕ ਮਹੀਨੇ ਵਿੱਚ ਵਜ਼ਨ ਤੱਕ
Hy4 ਨੂੰ ਪਹਿਲੀ ਵਾਰ 4 ਨਵੰਬਰ ਨੂੰ API ਦੇ ਤੌਰ 'ਤੇ ਜਾਰੀ ਕੀਤਾ ਗਿਆ ਸੀ, Tencent ਨੇ ਵਾਅਦਾ ਕੀਤਾ ਸੀ ਕਿ ਵਜ਼ਨ ਦੀ ਪਾਲਣਾ ਕੀਤੀ ਜਾਵੇਗੀ; 18 ਨਵੰਬਰ ਨੂੰ ਹਲਕਾ Hy4 ਫਲੈਸ਼, 220 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਦੇ ਨਾਲ, ਪਹਿਲਾਂ ਓਪਨ-ਸੋਰਸ ਕੀਤਾ ਗਿਆ ਸੀ। ਫਲੈਗਸ਼ਿਪ ਵਜ਼ਨ ਹੁਣ ਖੁੱਲ੍ਹਣ ਦੇ ਨਾਲ, ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਹੁਣ ਸਿਰਫ Tencent ਦੇ API ਰਾਹੀਂ Hy4 ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ ਅਤੇ ਇਸਨੂੰ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਤੈਨਾਤ, ਵਧੀਆ-ਟਿਊਨ ਅਤੇ ਅਧਿਐਨ ਕਰ ਸਕਦੇ ਹਨ। ਰੀਲੀਜ਼ ਓਪਨ-ਵੇਟ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਅਤੇ ਬੰਦ ਏਪੀਆਈ ਸੇਵਾਵਾਂ ਵਿਚਕਾਰ ਤਿੱਖੀ ਮੁਕਾਬਲੇ ਨੂੰ ਜੋੜਦੀ ਹੈ।
N環球 
💬 Comments
No comments yet. Be the first!