Qwen3.8-Flash-Next-FP4-Local

Qwen3.8-Flash-Next-FP4-Local என்றால் என்ன

NVIDIA வெளியிட்ட Qwen3.8B Flash Next FP4 அளவுமாற்றிய பதிப்பு, உள்ளூர் இயக்கத்திற்கான இலேசான பெரிய மொழி மாதிரி.

முக்கிய அம்சங்கள்

• Qwen3.8B Flash Next இன் FP4 அளவுமாற்றிய பதிப்பு, உள்ளூர் இயக்கத்தை ஆதரிக்கிறது
• Quantisation-Aware Distillation (QAD) தொழில்நுட்பத்தைப் பயன்படுத்தி அளவுமாற்றம் செய்யப்பட்டது
• பார்வை குறியாக்கி, கலப்பு கவனம், MoE, வாயில் மீதமுள்ள ஸ்ட்ரீம்கள் மற்றும் n-gram உட்பொதிவுகளை ஆதரிக்கிறது
• புதிய NVFP4 இழப்பற்ற சுருக்க வடிவமைப்பை ஆதரிக்க vLLM கொள்கலனை வழங்குகிறது

யாருக்காக

உள்ளூர் NVIDIA வன்பொருள் (RTX PRO 6000 Blackwell அல்லது DGX Spark போன்றவை) மீது இலேசான பல்லுணர்வு பெரிய மொழி மாதிரிகளைப் பயன்படுத்தி வரிசைப்படுத்த வேண்டிய உருவாக்குநர்கள் மற்றும் ஆராய்ச்சியாளர்கள்.

எப்படித் தொடங்குவது

1. மாதிரி எடைகளைப் பதிவிறக்க https://huggingface.co/nvidia/Qwen3.8-Flash-Next-FP4-Local ஐப் பார்வையிடவும்
2. README இல் வழங்கப்பட்ட vLLM கொள்கலனைப் பயன்படுத்தி மாதிரியை இயக்கவும்
3. ஆதரிக்கப்படும் NVIDIA RTX PRO 6000 Blackwell அல்லது DGX Spark வன்பொருளில் வரிசைப்படுத்தவும்

கருவியின் அதிகாரப்பூர்வ வலைத்தளம் / README / அறிமுகப் பக்கத்தில் உள்ள பொது விளக்கங்களிலிருந்து தொகுக்கப்பட்டது. விலை மற்றும் பயனர் எண்ணிக்கைகள் சரிபார்க்கப்படவில்லை; அதிகாரப்பூர்வ வலைத்தளத்தைச் சரிபார்க்கவும். சில பிரிவுகள் AI உதவியுடன் வரைவு செய்யப்பட்டன. சீன மற்றும் ஆங்கிலத்தில் எழுதப்பட்டது; பிற மொழிகள் இயந்திர மொழிபெயர்ப்பு.