MiniCPM-V-4.7-35B-A3B

Qu'est-ce que MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B est un modèle multimodal open-source à grande échelle publié par OpenBMB. Il prend en charge la compréhension multimodale d'images, de vidéos et plus encore, avec une échelle de paramètres de 35B-A3B.

Fonctionnalités principales

• Prend en charge la compréhension multimodale d'images, de vidéos et plus encore
• Utilise une architecture MoE 35B-A3B ; le premier modèle MoE de la série MiniCPM-V
• Intègre la technologie Lookahead Expert Scheduling (LES) pour une inférence fluide et sans perte sur appareil
• Utilise une quantification fine par couche, lui permettant de fonctionner sur iPhone avec 3 Go de mémoire
• Basé sur la technologie de compression précoce intra-ViT qui compresse les tokens visuels tôt à l'intérieur de l'encodeur de vision

Pour qui

Convient aux développeurs, chercheurs et utilisateurs finaux qui ont besoin d'exécuter des grands modèles multimodaux sur appareil, en particulier dans les scénarios mobiles à ressources limitées.

Comment démarrer

1. Visitez la page Hugging Face https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B pour télécharger les poids du modèle
2. Reportez-vous à la section Usage dans la fiche du modèle pour l'intégration et l'inférence
3. Combinez avec DSpark pour le déploiement et l'inférence sur appareil

Compilé à partir des descriptions publiques du site officiel / README / page de lancement. Tarifs et nombre d'utilisateurs non vérifiés ; consultez le site officiel. Certaines sections ont été rédigées avec l'aide de l'IA. Rédigé en chinois et en anglais ; les autres langues sont traduites automatiquement.