MiniCPM-V-4.7-35B-A3B

Hva er MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B er en åpen kildekode multimodal stor modell utgitt av OpenBMB. Den støtter multimodal forståelse av bilder, video og mer, med en parameterstørrelse på 35B-A3B.

Viktige funksjoner

• Støtter multimodal forståelse av bilder, video og mer
• Bruker en 35B-A3B MoE-arkitektur; den første MoE-modellen i MiniCPM-V-serien
• Integrerer Lookahead Expert Scheduling (LES)-teknologi for tapsfri on-device jevn inferens
• Bruker finkornet per-lag-kvantisering som gjør det mulig å kjøre på iPhone med 3 GB minne
• Basert på intra-ViT early compression-teknologi som komprimerer visuelle tokens tidlig inne i visjonsenkoderen

Hvem det er for

Passer for utviklere, forskere og sluttbrukere som trenger å kjøre multimodale store modeller on-device, spesielt i ressursbegrensede mobilscenarier.

Hvordan komme i gang

1. Besøk Hugging Face-siden https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B for å laste ned modellvektene
2. Se Usage-delen i model card for integrasjon og inferens
3. Kombiner med DSpark for on-device distribusjon og inferens

Sammensatt fra offentlige beskrivelser på verktøyets offisielle nettsted / README / lanseringsside. Priser og brukertall er ikke verifisert; vennligst sjekk det offisielle nettstedet. Noen seksjoner ble utarbeidet med hjelp fra AI. Skrevet på kinesisk og engelsk; andre språk er maskinoversatt.