Tencent پرچمدار وزنهای باز Hy4: با پارامتر 770B را با شرایط مجوز جدید منتشر کرد

Tencent در 20 نوامبر وزن های کامل مدل پرچمدار Hy4 خود را در Hugging Face، ModelScope و GitCode منتشر کرد، از جمله نسخه تنظیم شده با دستورالعمل، یک نسخه کوانتیزه شده FP8 و پایه از پیش آموزش داده شده، همراه با یک کارت سیستم. وزنهای رسمی از مجوز جدید Tencent Hy استفاده میکنند که براساس آن ارائهدهندگان API مدل بزرگ به مجوز کتبی جداگانه نیاز دارند.
Tencent وزن کامل مدل بزرگ پرچمدار خود Hy4 را برای دانلود منتشر کرده است که در Hugging Face، ModelScope و GitCode موجود است. این نسخه شامل Hy4 تنظیم شده توسط دستورالعمل، Hy4-FP8 کمیت شده توسط FP8 و مدل پایه Hy4-base از قبل آموزش دیده، به همراه کارت سیستمی که قابلیت ها و محدودیت های مدل را توصیف می کند. در 03:52 UTC در 20 نوامبر یا 22:52 EST در 19 نوامبر اعلام شد.
770 میلیارد پارامتر، یک پنجره میلیون توکن
Hy4 از معماری ترکیبی از کارشناسان (MoE) با 770 میلیارد پارامتر کل، حدود 49 میلیارد پارامتر فعال در هر توکن، 78 لایه و پنجره زمینه حدود یک میلیون توکن استفاده می کند. از درک متن، تصویر و ویدیو و همچنین استفاده از رایانه پشتیبانی می کند و Tencent راهنماهای استقرار vLLM و SGLang را ارائه کرده است تا توسعه دهندگان بتوانند آن را روی سخت افزار خود اجرا کنند. خود مدل نسبت به راه اندازی رسمی خود به عنوان یک سرویس API در 4 نوامبر تغییری نکرده است.
مجوز جدید: ارائه دهندگان بزرگ به مجوز جداگانه نیاز دارند
قابل ذکر است، مجوز برای وزن های رسمی با پیش نمایش آگوست که از آپاچی 2.0 استفاده می کرد، متفاوت است. نسخه کامل از مجوز جدید Tencent Hy استفاده می کند. برگرفته از Apache 2.0، یک شرط برای ارائه دهندگان API مدل های بزرگ اضافه می کند: محصولاتی با درآمد سالانه بیش از 50 میلیون دلار آمریکا یا بیش از 100 میلیون کاربر فعال ماهانه نیاز به مجوز کتبی جداگانه از Tencent دارند. برخی از گزارشها هنوز انتشار را با عنوان Apache 2.0 توصیف میکنند که با کارت مدل در تضاد است. کارت مدل حاکم است.
از API تا وزن در یک ماه
Hy4 برای اولین بار به عنوان یک API در 4 نوامبر منتشر شد، با Tencent قول داده بود که وزن ها به دنبال آن خواهد بود. در 18 نوامبر، فلش فندک Hy4، با 220 میلیارد پارامتر، ابتدا منبع باز شد. با باز بودن وزنهای پرچمدار، توسعهدهندگان دیگر نیازی به استفاده از Hy4 تنها از طریق API Tencent ندارند و میتوانند آن را به صورت محلی مستقر، تنظیم و مطالعه کنند. این انتشار به تشدید رقابت بین مدلهای مرزی با وزن باز و سرویسهای API بسته میافزاید.
N環球 
💬 Comments
No comments yet. Be the first!