d3

Que é d3

vllm-sr/d3 é un repositorio de modelos de código aberto baseado no motor de inferencia vLLM, centrado no despregue e inferencia eficientes de modelos de linguaxe grandes.

Características clave

• Soporta entrada de texto ou JSON e pode anexar múltiples imaxes e vídeos simultaneamente
• Unha única chamada pode xestionar múltiples tipos de decisión: elección múltiple, si/non, puntuación, e devolve a probabilidade para cada resposta
• Devolve directamente as probabilidades de decisión sen xerar texto
• Soporta a lectura de múltiples imaxes PNG, JPEG e WebP así como vídeos MP4, WebM, MOV e MKV
• Pode servir como o modelo de decisión multimodal de 27B para vLLM Semantic Router

Para quen é

Desenvolvedores que necesitan realizar inferencia eficiente de decisión multimodal, axeitado para construír aplicacións de selección, xuízo ou puntuación.

Como comezar

1. Visita o Espazo Oficial: vllm-sr/Decision-3.0 para probas en liña

Compilado a partir de descricións públicas no sitio web oficial / README / páxina de lanzamento da ferramenta. Os prezos e números de usuarios non foron verificados; consulta o sitio web oficial. Algunhas seccións foron redactadas con axuda de IA. Escrito en chinés e inglés; outras linguaxes están traducidas por máquina.