d3

Qu'est-ce que d3

vllm-sr/d3 est un dépôt de modèles open-source basé sur le moteur d'inférence vLLM, axé sur le déploiement et l'inférence efficaces des grands modèles de langage.

Fonctionnalités principales

• Prend en charge les entrées texte ou JSON et peut joindre plusieurs images et vidéos simultanément
• Un seul appel peut gérer plusieurs types de décisions : choix multiple, oui/non, notation, et renvoie la probabilité pour chaque réponse
• Produit directement les probabilités de décision sans générer de texte
• Prend en charge la lecture de plusieurs images PNG, JPEG et WebP ainsi que des vidéos MP4, WebM, MOV et MKV
• Peut servir de modèle de fondation décisionnel multimodal 27B pour vLLM Semantic Router

Pour qui

Développeurs qui ont besoin d'effectuer une inférence décisionnelle multimodale efficace, adapté à la construction d'applications de sélection, de jugement ou de notation.

Comment démarrer

1. Visitez l'espace officiel : vllm-sr/Decision-3.0 pour un essai en ligne

Compilé à partir des descriptions publiques du site officiel / README / page de lancement. Tarifs et nombre d'utilisateurs non vérifiés ; consultez le site officiel. Certaines sections ont été rédigées avec l'aide de l'IA. Rédigé en chinois et en anglais ; les autres langues sont traduites automatiquement.