MiniCPM-V-4.7-35B-A3B

¿Qué es MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B es un modelo grande multimodal de código abierto publicado por OpenBMB. Admite comprensión multimodal de imágenes, vídeo y más, con una escala de 35B-A3B parámetros.

Características clave

• Admite comprensión multimodal de imágenes, vídeo y más
• Utiliza una arquitectura MoE de 35B-A3B; el primer modelo MoE de la serie MiniCPM-V
• Integra la tecnología Lookahead Expert Scheduling (LES) para una inferencia fluida sin pérdidas en el dispositivo
• Utiliza cuantización por capa de grano fino, lo que permite ejecutarlo en iPhone con 3 GB de memoria
• Basado en la tecnología de compresión temprana intra-ViT que comprime los tokens visuales pronto dentro del codificador de visión

Para quién es

Adecuado para desarrolladores, investigadores y usuarios finales que necesitan ejecutar modelos multimodales grandes en el dispositivo, especialmente en escenarios móviles con recursos limitados.

Cómo empezar

1. Visita la página de Hugging Face https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B para descargar los pesos del modelo
2. Consulta la sección Usage en la ficha del modelo para la integración y la inferencia
3. Combínalo con DSpark para el despliegue y la inferencia en el dispositivo

Compilado a partir de descripciones públicas del sitio web oficial / README / página de lanzamiento de la herramienta. Los precios y números de usuarios no han sido verificados; consulta el sitio web oficial. Algunas secciones fueron redactadas con ayuda de IA. Escrito en chino e inglés; otros idiomas están traducidos automáticamente.