Inilabas ni Tencent ang Hy4 open weights: 770B-parameter na flagship na may mga bagong tuntunin sa lisensya

Inilabas ng Tencent noong Nobyembre 20 ang buong timbang ng flagship model nitong Hy4 sa Hugging Face, ModelScope at GitCode, kasama ang instruction-tuned na bersyon, isang FP8 quantised na bersyon at ang pre-trained na base, kasama ang isang system card. Ginagamit ng mga opisyal na timbang ang bagong Tencent Hy License, kung saan nangangailangan ang malalaking modelo ng API provider ng hiwalay na nakasulat na awtorisasyon.
Inilabas ng Tencent ang buong timbang ng malaking modelong Hy4 nito para sa pag-download, na available sa Hugging Face, ModelScope at GitCode. Kasama sa release ang instruction-tuned na Hy4, ang FP8-quantised Hy4-FP8 at ang pre-trained base model na Hy4-base, kasama ang isang system card na naglalarawan sa mga kakayahan at limitasyon ng modelo. Ito ay inanunsyo noong 03:52 UTC noong Nobyembre 20, o 22:52 EST noong Nobyembre 19.
770 bilyong mga parameter, isang milyon-token window
Gumagamit ang Hy4 ng arkitektura ng mixture-of-experts (MoE) na may 770 bilyong kabuuang parameter, humigit-kumulang 49 bilyong naka-activate bawat token, 78 layer at isang context window na humigit-kumulang isang milyong token. Sinusuportahan nito ang pag-unawa sa teksto, larawan at video pati na rin ang paggamit ng computer, at nagbigay ang Tencent ng mga gabay sa pag-deploy para sa vLLM at SGLang upang mapatakbo ito ng mga developer sa kanilang sariling hardware. Ang modelo mismo ay hindi nagbabago mula sa opisyal na paglulunsad nito bilang isang serbisyo ng API noong Nobyembre 4.
Bagong lisensya: ang malalaking provider ay nangangailangan ng hiwalay na awtorisasyon
Kapansin-pansin, ang lisensya para sa mga opisyal na timbang ay naiiba sa preview ng Agosto, na gumamit ng Apache 2.0. Ang buong release ay gumagamit ng bagong Tencent Hy License. Nagmula sa Apache 2.0, nagdaragdag ito ng kundisyon para sa malalaking modelong provider ng API: ang mga produktong may taunang kita na higit sa US$50 milyon o higit sa 100 milyong buwanang aktibong user ay nangangailangan ng hiwalay na nakasulat na pahintulot mula sa Tencent. Inilalarawan pa rin ng ilang ulat ang paglabas bilang Apache 2.0, na sumasalungat sa modelong card; namamahala ang model card.
Mula sa API hanggang sa mga timbang sa isang buwan
Unang inilabas ang Hy4 bilang isang API noong Nobyembre 4, kung saan ipinangako ni Tencent na susunod ang mga timbang; noong Nobyembre 18 ang mas magaan na Hy4 Flash, na may 220 bilyong mga parameter, ay unang na-open-source. Dahil bukas na ang flagship weights, hindi na kailangan ng mga developer na gumamit lang ng Hy4 sa pamamagitan ng Tencent's API at maaari itong mag-deploy, mag-fine-tune at mag-aral dito nang lokal. Ang paglabas ay nagdaragdag sa tumitinding kumpetisyon sa pagitan ng mga modelo ng open-weight frontier at mga closed API na serbisyo.
N環球 
💬 Comments
No comments yet. Be the first!