N環球 N GLOBE
Technologie chinoise

Tencent publie les poids ouverts de Hy4 : un modèle phare de 770 milliards de paramètres, avec de nouvelles conditions de licence

· N GLOBE

Tencent a publié le 20 novembre les poids complets de son modèle phare Hy4 sur Hugging Face, ModelScope et GitCode, y compris la version affinée par instruction, une version quantifiée FP8 et le modèle de base pré-entraîné, accompagnés d'une fiche système. Les poids officiels relèvent de la nouvelle licence Tencent Hy, qui impose une autorisation écrite distincte aux grands fournisseurs d'API.

Tencent a ouvert le téléchargement des poids complets de son grand modèle phare Hy4, disponibles sur Hugging Face, ModelScope et GitCode. La publication comprend le modèle Hy4 affiné par instruction, la version quantifiée FP8 Hy4-FP8 et le modèle de base pré-entraîné Hy4-base, ainsi qu'une fiche système décrivant les capacités et les limites du modèle. L'annonce a été faite à 03 h 52 UTC le 20 novembre, soit 22 h 52 (heure de l'Est) le 19 novembre.

770 milliards de paramètres, une fenêtre d'un million de tokens

Hy4 repose sur une architecture de mélange d'experts (MoE) totalisant 770 milliards de paramètres, dont environ 49 milliards activés par token, avec 78 couches et une fenêtre de contexte d'environ un million de tokens. Il prend en charge la compréhension du texte, de l'image et de la vidéo, ainsi que l'utilisation d'un ordinateur (Computer Use), et Tencent fournit des guides de déploiement pour vLLM et SGLang afin que les développeurs puissent l'exécuter sur leur propre matériel. Le modèle lui-même est inchangé depuis son lancement officiel en tant que service d'API le 4 novembre.

Nouvelle licence : une autorisation distincte pour les grands fournisseurs

À noter, la licence des poids officiels diffère de celle de l'aperçu d'août, qui utilisait Apache 2.0. La version complète relève de la nouvelle licence Tencent Hy. Dérivée d'Apache 2.0, elle ajoute une condition pour les grands fournisseurs d'API de modèles : les produits dont le chiffre d'affaires annuel dépasse 50 millions de dollars américains ou qui comptent plus de 100 millions d'utilisateurs actifs mensuels doivent obtenir une autorisation écrite distincte de Tencent. Certains articles décrivent encore la publication comme relevant d'Apache 2.0, ce qui contredit la fiche du modèle ; c'est la fiche du modèle qui fait foi.

De l'API aux poids en un mois

Hy4 avait d'abord été lancé en tant qu'API le 4 novembre, Tencent promettant alors la publication des poids ; le 18 novembre, la version allégée Hy4 Flash, de 220 milliards de paramètres, avait été ouverte en premier. Avec l'ouverture des poids du modèle phare, les développeurs ne sont plus limités à l'API de Tencent : ils peuvent déployer, affiner et étudier le modèle localement. Cette publication accentue la concurrence entre les modèles ouverts de pointe et les services d'API fermés.

💬 Commentaires

Aucun commentaire. Soyez le premier !