Qwen3.8-Flash-Next-FP4-Local

Què és Qwen3.8-Flash-Next-FP4-Local

Versió quantitzada FP4 de Qwen3.8B Flash Next publicada per NVIDIA, un model de llenguatge gran lleuger per a execució local.

Funcionalitats principals

• Versió quantitzada FP4 de Qwen3.8B Flash Next, que admet execució local
• Quantitzat amb tecnologia Quantisation-Aware Distillation (QAD)
• Admet codificador de visió, atenció híbrida, MoE, fluxos residuals amb porta i incrustacions n-gram
• Proporciona un contenidor vLLM per admetre el nou format de compressió sense pèrdues NVFP4

Per a qui és

Desenvolupadors i investigadors que necessiten desplegar i executar models de llenguatge grans multimodals lleugers en maquinari NVIDIA local (com ara RTX PRO 6000 Blackwell o DGX Spark).

Com començar

1. Visiteu https://huggingface.co/nvidia/Qwen3.8-Flash-Next-FP4-Local per descarregar els pesos del model
2. Executeu el model amb el contenidor vLLM proporcionat al README
3. Desplegueu en maquinari NVIDIA RTX PRO 6000 Blackwell o DGX Spark compatible

Compilat a partir de descripcions públiques del lloc web oficial / README / pàgina de llançament de l'eina. Els preus i el nombre d'usuaris no s'han verificat; consulta el lloc web oficial. Algunes seccions s'han redactat amb ajuda d'IA. Escrit en xinès i anglès; altres idiomes són traduïts automàticament.