Qwen3.8-Flash-Next-FP4-Local

Qu'est-ce que Qwen3.8-Flash-Next-FP4-Local

Version quantifiée FP4 de Qwen3.8B Flash Next publiée par NVIDIA, un grand modèle de langage léger pour l'exécution locale.

Fonctionnalités principales

• Version quantifiée FP4 de Qwen3.8B Flash Next, prenant en charge l'exécution locale
• Quantifié à l'aide de la technologie Quantisation-Aware Distillation (QAD)
• Prend en charge l'encodeur de vision, l'attention hybride, le MoE, les flux résiduels contrôlés et les embeddings n-gram
• Fournit un conteneur vLLM pour prendre en charge le nouveau format de compression sans perte NVFP4

Pour qui

Développeurs et chercheurs qui ont besoin de déployer et d'exécuter des grands modèles de langage multimodaux légers sur du matériel NVIDIA local (tel que RTX PRO 6000 Blackwell ou DGX Spark).

Comment démarrer

1. Visitez https://huggingface.co/nvidia/Qwen3.8-Flash-Next-FP4-Local pour télécharger les poids du modèle
2. Exécutez le modèle à l'aide du conteneur vLLM fourni dans le README
3. Déployez sur du matériel NVIDIA RTX PRO 6000 Blackwell ou DGX Spark pris en charge

Compilé à partir des descriptions publiques du site officiel / README / page de lancement. Tarifs et nombre d'utilisateurs non vérifiés ; consultez le site officiel. Certaines sections ont été rédigées avec l'aide de l'IA. Rédigé en chinois et en anglais ; les autres langues sont traduites automatiquement.