d3

Què és d3

vllm-sr/d3 és un repositori de models de codi obert basat en el motor d'inferència vLLM, centrat en el desplegament i la inferència eficients de models de llenguatge grans.

Funcionalitats principals

• Admet entrada de text o JSON i pot adjuntar múltiples imatges i vídeos simultàniament
• Una única crida pot gestionar múltiples tipus de decisions: elecció múltiple, sí/no, puntuació, i retorna la probabilitat per a cada resposta
• Genera directament probabilitats de decisió sense generar text
• Admet la lectura de múltiples imatges PNG, JPEG i WebP, així com vídeos MP4, WebM, MOV i MKV
• Pot servir com a model de decisió multimodal de 27B per a vLLM Semantic Router

Per a qui és

Desenvolupadors que necessiten realitzar inferència de decisions multimodals eficients, adequat per construir aplicacions de selecció, judici o puntuació.

Com començar

1. Visita l'Espai Oficial: vllm-sr/Decision-3.0 per a proves en línia

Compilat a partir de descripcions públiques del lloc web oficial / README / pàgina de llançament de l'eina. Els preus i el nombre d'usuaris no s'han verificat; consulta el lloc web oficial. Algunes seccions s'han redactat amb ajuda d'IA. Escrit en xinès i anglès; altres idiomes són traduïts automàticament.