أصدرت Tencent أوزان Hy4 المفتوحة: الرائد بمعلمة 770B مع شروط ترخيص جديدة

أصدرت Tencent في 20 نوفمبر الأوزان الكاملة لنموذجها الرئيسي Hy4 على Hugging Face وModelScope وGitCode، بما في ذلك الإصدار المضبوط للتعليمات، والإصدار الكمي FP8 والقاعدة المدربة مسبقًا، بالإضافة إلى بطاقة النظام. تستخدم الأوزان الرسمية ترخيص Tencent Hy الجديد، والذي بموجبه يحتاج موفرو واجهة برمجة التطبيقات ذات النماذج الكبيرة إلى تصريح كتابي منفصل.
أصدرت Tencent الأوزان الكاملة لنموذجها الرئيسي الكبير Hy4 للتنزيل، وهو متاح على Hugging Face وModelScope وGitCode. يتضمن الإصدار Hy4 الذي تم ضبطه حسب التعليمات، وHy4-FP8 المقدر بـ FP8 والنموذج الأساسي المدرّب مسبقًا Hy4-base، بالإضافة إلى بطاقة نظام تصف قدرات النموذج وحدوده. تم الإعلان عنه في الساعة 03:52 بالتوقيت العالمي يوم 20 نوفمبر، أو 22:52 بتوقيت شرق الولايات المتحدة يوم 19 نوفمبر.
770 مليار معلمة، نافذة مليون رمز
تستخدم Hy4 بنية خليط من الخبراء (MoE) مع 770 مليار معلمة إجمالية، وحوالي 49 مليارًا مفعلًا لكل رمز مميز، و78 طبقة ونافذة سياقية تضم حوالي مليون رمز مميز. وهو يدعم فهم النصوص والصور والفيديو بالإضافة إلى استخدام الكمبيوتر، وقد قدمت Tencent أدلة نشر لـ vLLM وSGLang حتى يتمكن المطورون من تشغيله على أجهزتهم الخاصة. لم يتغير النموذج نفسه منذ إطلاقه رسميًا كخدمة API في 4 نوفمبر.
ترخيص جديد: يحتاج مقدمو الخدمات الكبار إلى ترخيص منفصل
والجدير بالذكر أن ترخيص الأوزان الرسمية يختلف عن معاينة أغسطس، والتي استخدمت Apache 2.0. يستخدم الإصدار الكامل ترخيص Tencent Hy الجديد. وهو مشتق من Apache 2.0، وهو يضيف شرطًا لموفري واجهة برمجة التطبيقات ذات النماذج الكبيرة: المنتجات التي تزيد إيراداتها السنوية عن 50 مليون دولار أمريكي أو أكثر من 100 مليون مستخدم نشط شهريًا تحتاج إلى تصريح كتابي منفصل من Tencent. لا تزال بعض التقارير تصف الإصدار بأنه Apache 2.0، والذي يتعارض مع بطاقة الطراز؛ تحكم البطاقة النموذجية.
من API إلى الأوزان في شهر واحد
تم إصدار Hy4 لأول مرة كواجهة برمجة تطبيقات في 4 نوفمبر، مع وعد Tencent بأن الأوزان ستتبع؛ في 18 تشرين الثاني (نوفمبر)، أصبح جهاز Hy4 Flash الأخف، الذي يحتوي على 220 مليار معلمة، مفتوح المصدر أولاً. مع فتح الأوزان الرئيسية الآن، لم يعد المطورون بحاجة إلى استخدام Hy4 فقط من خلال واجهة برمجة تطبيقات Tencent ويمكنهم نشرها وضبطها ودراستها محليًا. يضيف الإصدار إلى المنافسة المتزايدة بين النماذج الحدودية ذات الوزن المفتوح وخدمات واجهة برمجة التطبيقات المغلقة.
N環球 
💬 Comments
No comments yet. Be the first!