N環球 N GLOBE
تكنولوجيا الصين

إطار عمل DeepSeek مفتوح المصدر DeepInfer Inference Framework لرقائق Nvidia وHuawei Ascend

· N GLOBE

لدى DeepSeek DeepInfer مفتوح المصدر، وهو إطار عمل الاستدلال عالي الأداء وراء خدمات الإنتاج واسعة النطاق، ضمن Apache 2.0. يدعم الإصدار الأول DeepSeek-V4.1-Flash على وحدات معالجة الرسوميات Nvidia SM100 وHuawei Ascend 950 NPUs.

لماذا يهم

أعلن مختبر الذكاء الاصطناعي الصيني DeepSeek على حسابه الرسمي X (@deepseek_ai، سلسلة من أربع مشاركات تنتهي بـ "نماذج مفتوحة. نوى مفتوحة. استدلال مفتوح.") أنه DeepInfer مفتوح المصدر بالكامل، وهو إطار الاستدلال وراء خدمات الإنتاج واسعة النطاق. الكود موجود على GitHub على github.com/deepseek-ai/DeepInfer بموجب ترخيص Apache 2.0، مما يسمح بالاستضافة الذاتية التجارية. جمع المستودع بسرعة أكثر من 11000 نجم.

تقرير كامل

يصف DeepSeek DeepInfer بأنه "إطار عمل الاستدلال عالي الأداء الذي يدعم خدمات إنتاج DeepSeek واسعة النطاق." يدعم الإصدار الأول نموذجًا واحدًا، DeepSeek-V4.1-Flash، على نوعين من أجهزة مراكز البيانات: وحدات معالجة الرسومات Nvidia SM100 (CUDA 13) وHuawei Ascend 950 NPUs (CANN 9.2).

من الناحية الفنية، يتضمن مشغلين مخصصين (FlashMLA، DeepGEMM، DeepEP، TileKernels، DeepSelect، مشغلي TileLang)، موازية خبراء MoE مع موازنة تحميل EPLB، فك تشفير DSpark (طول المسودة الافتراضي 5)، جدولة غير متزامنة، استدلال ثابت للدفعة وأخذ عينات حتمية (Nvidia فقط)، ومخرجات منظمة (مخطط regex / JSON / EBNF). ينسب إليه README الفضل باعتباره "مبنيًا في الأصل على vLLM، مع إلهام إضافي من SGLang وTensorRT-LLM."

يستثني هذا الإصدار نظام ذاكرة التخزين المؤقت KV، والتعبئة المسبقة/فك التشفير، وموازنة تحميل النسخ المتماثلة؛ تم قياس المعايير على 4 وحدات معالجة رسوميات SM100 (ملء مسبق) و64 (فك تشفير). DeepSeek أيضًا مفتوح المصدر لوصفات Deepseek، وهو مكون الرمز المميز/التشفير المطابق لواجهة برمجة التطبيقات الرسمية الخاصة به.

السياق: ذكرت وسائل الإعلام أن DeepSeek قالت في أبريل 2025 إنها لا تخطط لفتح مصدر محرك الاستدلال الكامل الخاص بها، مما يجعل هذا انعكاسًا؛ جاء هذا الإعلان بعد يوم واحد من أمر الحكومة الفيدرالية الأمريكية الوكالات الفيدرالية بحظر DeepSeek. تدعي DeepSeek أن مجموعة V4.1-Flash واحدة تخدم 155 تريليون رمز يوميًا (لم يتم التحقق منها بشكل مستقل).

💬 Comments

No comments yet. Be the first!