MiniCPM-V-4.7-35B-A3B

Què és MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B és un model gran multimodal de codi obert publicat per OpenBMB. Admet comprensió multimodal d'imatges, vídeo i més, amb una escala de paràmetres de 35B-A3B.

Funcionalitats principals

• Admet comprensió multimodal d'imatges, vídeo i més
• Utilitza una arquitectura MoE 35B-A3B; el primer model MoE de la sèrie MiniCPM-V
• Integra la tecnologia Lookahead Expert Scheduling (LES) per a una inferència suau sense pèrdues en el dispositiu
• Utilitza quantització fina per capa, cosa que permet executar-lo en un iPhone amb 3 GB de memòria
• Basat en la tecnologia de compressió primerenca intra-ViT que comprimeix els tokens visuals d'hora dins de l'encoder de visió

Per a qui és

Adequat per a desenvolupadors, investigadors i usuaris finals que necessiten executar models multimodals grans en el dispositiu, especialment en escenaris mòbils amb recursos limitats.

Com començar

1. Visiteu la pàgina de Hugging Face https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B per baixar els pesos del model
2. Consulteu la secció d'ús a la fitxa del model per a la integració i la inferència
3. Combineu amb DSpark per al desplegament i la inferència en el dispositiu

Compilat a partir de descripcions públiques del lloc web oficial / README / pàgina de llançament de l'eina. Els preus i el nombre d'usuaris no s'han verificat; consulta el lloc web oficial. Algunes seccions s'han redactat amb ajuda d'IA. Escrit en xinès i anglès; altres idiomes són traduïts automàticament.