MiniCPM-V-4.7-35B-A3B

Que é MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B é un modelo grande multimodal de código aberto publicado por OpenBMB. Soporta comprensión multimodal de imaxes, vídeo e máis, cunha escala de parámetros de 35B-A3B.

Características clave

• Soporta comprensión multimodal de imaxes, vídeo e máis
• Utiliza unha arquitectura MoE 35B-A3B; o primeiro modelo MoE da serie MiniCPM-V
• Integra a tecnoloxía Lookahead Expert Scheduling (LES) para unha inferencia suave sen perdas no dispositivo
• Utiliza cuantización fina por capa, o que lle permite executarse nun iPhone con 3 GB de memoria
• Baseado na tecnoloxía de compresión temperá intra-ViT que comprime os tokens visuais cedo dentro do codificador de visión

Para quen é

Apto para desenvolvedores, investigadores e usuarios finais que necesitan executar modelos grandes multimodais no dispositivo, especialmente en escenarios móbiles con recursos limitados.

Como comezar

1. Visita a páxina de Hugging Face https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B para descargar os pesos do modelo
2. Consulta a sección de Uso na ficha do modelo para a integración e a inferencia
3. Combínao con DSpark para o despregue e a inferencia no dispositivo

Compilado a partir de descricións públicas no sitio web oficial / README / páxina de lanzamento da ferramenta. Os prezos e números de usuarios non foron verificados; consulta o sitio web oficial. Algunhas seccións foron redactadas con axuda de IA. Escrito en chinés e inglés; outras linguaxes están traducidas por máquina.