d3

¿Qué es d3

vllm-sr/d3 es un repositorio de modelos de código abierto basado en el motor de inferencia vLLM, centrado en el despliegue e inferencia eficientes de modelos de lenguaje grandes.

Características clave

• Admite entrada de texto o JSON y puede adjuntar varias imágenes y vídeos simultáneamente
• Una sola llamada puede gestionar múltiples tipos de decisión: elección múltiple, sí/no, puntuación, y devuelve la probabilidad de cada respuesta
• Devuelve directamente las probabilidades de decisión sin generar texto
• Admite la lectura de múltiples imágenes PNG, JPEG y WebP, así como vídeos MP4, WebM, MOV y MKV
• Puede servir como el modelo de decisión multimodal de 27B para vLLM Semantic Router

Para quién es

Desarrolladores que necesitan realizar inferencia eficiente de decisiones multimodales, adecuado para construir aplicaciones de selección, juicio o puntuación.

Cómo empezar

1. Visita el Espacio Oficial: vllm-sr/Decision-3.0 para probar en línea

Compilado a partir de descripciones públicas del sitio web oficial / README / página de lanzamiento de la herramienta. Los precios y números de usuarios no han sido verificados; consulta el sitio web oficial. Algunas secciones fueron redactadas con ayuda de IA. Escrito en chino e inglés; otros idiomas están traducidos automáticamente.