Qwen3.8-Flash-Next-FP4-Local

¿Qué es Qwen3.8-Flash-Next-FP4-Local

Versión cuantizada FP4 de Qwen3.8B Flash Next publicada por NVIDIA, un modelo de lenguaje grande ligero para ejecución local.

Características clave

• Versión cuantizada FP4 de Qwen3.8B Flash Next, compatible con ejecución local
• Cuantizado mediante la tecnología Quantisation-Aware Distillation (QAD)
• Admite codificador de visión, atención híbrida, MoE, flujos residuales con compuerta e incrustaciones n-gram
• Proporciona un contenedor vLLM para admitir el nuevo formato de compresión sin pérdida NVFP4

Para quién es

Desarrolladores e investigadores que necesitan desplegar y ejecutar modelos de lenguaje grandes multimodales ligeros en hardware NVIDIA local (como RTX PRO 6000 Blackwell o DGX Spark).

Cómo empezar

1. Visita https://huggingface.co/nvidia/Qwen3.8-Flash-Next-FP4-Local para descargar los pesos del modelo
2. Ejecuta el modelo usando el contenedor vLLM proporcionado en el README
3. Despliega en hardware NVIDIA RTX PRO 6000 Blackwell o DGX Spark compatible

Compilado a partir de descripciones públicas del sitio web oficial / README / página de lanzamiento de la herramienta. Los precios y números de usuarios no han sido verificados; consulta el sitio web oficial. Algunas secciones fueron redactadas con ayuda de IA. Escrito en chino e inglés; otros idiomas están traducidos automáticamente.