N環球 N GLOBE
சீனா தொழில்நுட்பம்

என்விடியா மற்றும் ஹவாய் அசென்ட் சிப்களுக்கான டீப்ஸீக் ஓப்பன் சோர்ஸ் டீப்இன்ஃபர் அனுமான கட்டமைப்பு

· N GLOBE

DeepSeek ஆனது Apache 2.0 இன் கீழ் அதன் பெரிய அளவிலான உற்பத்திச் சேவைகளுக்குப் பின்னால் உள்ள உயர்-செயல்திறன் அனுமானக் கட்டமைப்பான ஓப்பன் சோர்ஸ் டீப்இன்ஃபரைக் கொண்டுள்ளது. முதல் வெளியீடு என்விடியா SM100 GPUகள் மற்றும் Huawei Ascend 950 NPUகளில் DeepSeek-V4.1-Flash ஐ ஆதரிக்கிறது.

அது ஏன் முக்கியம்

சீன AI ஆய்வகமான DeepSeek அதன் அதிகாரப்பூர்வ X கணக்கில் (@deepseek_ai, "Open models. Open kernels. Open inference" என்று முடிவடையும் நான்கு-இடுகை நூல்) அதன் பெரிய அளவிலான உற்பத்திச் சேவைகளுக்குப் பின்னால் உள்ள அனுமானக் கட்டமைப்பான DeepInfer முழுவதுமாக ஓப்பன் சோர்சிங் என்று அறிவித்தது. Apache 2.0 உரிமத்தின் கீழ் github.com/deepseek-ai/DeepInfer இல் GitHub இல் குறியீடு உள்ளது, இது வணிகரீதியான சுய-ஹோஸ்டிங்கை அனுமதிக்கிறது. களஞ்சியம் விரைவாக 11,000 நட்சத்திரங்களைச் சேகரித்தது.

முழு அறிக்கை

DeepSeek டீப்இன்ஃபரை "டீப்ஸீக்கின் பெரிய அளவிலான உற்பத்திச் சேவைகளுக்கு சக்தியளிக்கும் உயர்-செயல்திறன் அனுமான கட்டமைப்பு" என்று விவரிக்கிறது. முதல் வெளியீடு DeepSeek-V4.1-Flash, இரண்டு வகையான டேட்டாசென்டர் வன்பொருளில் ஆதரிக்கிறது: Nvidia SM100 GPUs (CUDA 13) மற்றும் Huawei Ascend 950 NPUs (CANN 9.2).

தொழில்நுட்ப ரீதியாக இது தனிப்பயன் ஆபரேட்டர்களை உள்ளடக்கியது (FlashMLA, DeepGEMM, DeepEP, TileKernels, DeepSelect, TileLang ஆபரேட்டர்கள்), EPLB சுமை சமநிலையுடன் கூடிய MoE நிபுணர் பேரலலிசம், DSpark ஊக டிகோடிங் (இயல்புநிலை வரைவு நீளம் 5), ஒத்திசைவற்ற இன்டர்மினிஸ்டிங், ஒத்திசைவற்ற இடைநிலை அட்டவணைப்படுத்தல் (என்விடியா மட்டும்), மற்றும் கட்டமைக்கப்பட்ட வெளியீடுகள் (regex / JSON ஸ்கீமா / EBNF). README அதை "முதலில் முதன்மையாக vLLM இல் கட்டமைக்கப்பட்டது, SGLang மற்றும் TensorRT-LLM இலிருந்து கூடுதல் உத்வேகத்துடன்."

இந்த வெளியீடு KV கேச் சிஸ்டம், ப்ரீஃபில்/டிகோட் பிரித்தெடுத்தல் மற்றும் குறுக்கு-பிரதி சுமை சமநிலை ஆகியவற்றை விலக்குகிறது; அளவுகோல்கள் 4 SM100 GPUகள் (முன் நிரப்புதல்) மற்றும் 64 (டிகோட்) ஆகியவற்றில் அளவிடப்பட்டன. டீப்சீக், ஓப்பன் சோர்ஸ் டீப்ஸீக்-ரெசிபி, டோக்கனைசர்/குறியீட்டு கூறு அதன் அதிகாரப்பூர்வ API உடன் பொருந்தும்.

சூழல்: டீப்சீக் ஏப்ரல் 2025 இல் அதன் முழு அனுமான இயந்திரத்தைத் திறக்கத் திட்டமிடவில்லை என்று ஊடகங்கள் தெரிவித்தன, இது ஒரு தலைகீழ் மாற்றமாக அமைந்தது; அமெரிக்க மத்திய அரசாங்கம் DeepSeek ஐ தடை செய்ய மத்திய அரசு நிறுவனங்களுக்கு உத்தரவிட்ட ஒரு நாள் கழித்து இந்த அறிவிப்பு வந்தது. டீப்சீக் ஒரு ஒற்றை V4.1-ஃப்ளாஷ் கிளஸ்டர் ஒரு நாளைக்கு 155 டிரில்லியன் டோக்கன்களை வழங்குகிறது (சுயாதீனமாக சரிபார்க்கப்படவில்லை).

💬 Comments

No comments yet. Be the first!