Qwen3.8-Flash-Next-FP4-Local

Que é Qwen3.8-Flash-Next-FP4-Local

Versión FP4 cuantizada de Qwen3.8B Flash Next lanzada por NVIDIA, un modelo de linguaxe grande lixeiro para execución local.

Características clave

• Versión FP4 cuantizada de Qwen3.8B Flash Next, que admite execución local
• Cuantizada usando a tecnoloxía Quantisation-Aware Distillation (QAD)
• Admite codificador de visión, atención híbrida, MoE, fluxos residuais con porta e incrustacións n-gram
• Proporciona un contedor vLLM para admitir o novo formato de compresión sen perdas NVFP4

Para quen é

Desenvolvedores e investigadores que necesitan despreguer e executar modelos de linguaxe grandes multimodais lixeiros en hardware NVIDIA local (como RTX PRO 6000 Blackwell ou DGX Spark).

Como comezar

1. Visita https://huggingface.co/nvidia/Qwen3.8-Flash-Next-FP4-Local para descargar os pesos do modelo
2. Executa o modelo usando o contedor vLLM proporcionado no README
3. Desprega en hardware NVIDIA RTX PRO 6000 Blackwell ou DGX Spark compatible

Compilado a partir de descricións públicas no sitio web oficial / README / páxina de lanzamento da ferramenta. Os prezos e números de usuarios non foron verificados; consulta o sitio web oficial. Algunhas seccións foron redactadas con axuda de IA. Escrito en chinés e inglés; outras linguaxes están traducidas por máquina.