d3

Hva er d3

vllm-sr/d3 er et åpen kildekode-modellrepositorium basert på vLLM-inferensmotoren, med fokus på effektiv distribusjon og inferens av store språkmodeller.

Viktige funksjoner

• Støtter tekst- eller JSON-inndata og kan legge ved flere bilder og videoer samtidig
• En enkelt kall kan håndtere flere beslutningstyper: flervalgsspørsmål, ja/nei, poengsetting, og returnerer sannsynligheten for hvert svar
• Returnerer beslutningssannsynligheter direkte uten å generere tekst
• Støtter lesing av flere PNG-, JPEG- og WebP-bilder samt MP4-, WebM-, MOV- og MKV-videoer
• Kan fungere som 27B multimodal beslutningsgrunnmodell for vLLM Semantic Router

Hvem det er for

Utviklere som trenger å utføre effektiv multimodal beslutningsinferens, egnet for bygging av utvelgelses-, vurderings- eller poengsettingsapplikasjoner.

Hvordan komme i gang

1. Besøk Official Space: vllm-sr/Decision-3.0 for online testing

Sammensatt fra offentlige beskrivelser på verktøyets offisielle nettsted / README / lanseringsside. Priser og brukertall er ikke verifisert; vennligst sjekk det offisielle nettstedet. Noen seksjoner ble utarbeidet med hjelp fra AI. Skrevet på kinesisk og engelsk; andre språk er maskinoversatt.