MiniCPM-V-4.7-35B-A3B

Apakah MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B ialah model besar multimodal sumber terbuka yang dikeluarkan oleh OpenBMB. Ia menyokong pemahaman multimodal imej, video dan lain-lain, dengan skala parameter 35B-A3B

Ciri utama

• Menyokong pemahaman multimodal imej, video dan lain-lain
• Menggunakan seni bina MoE 35B-A3B; model MoE pertama dalam siri MiniCPM-V
• Mengintegrasikan teknologi Lookahead Expert Scheduling (LES) untuk inferens lancar tanpa kehilangan pada peranti
• Menggunakan pengkuantitian per-lapisan halus, membolehkannya berjalan pada iPhone dengan memori 3 GB
• Berdasarkan teknologi pemampatan awal intra-ViT yang memampatkan token visual awal di dalam pengekod visi

Untuk siapa ia

Sesuai untuk pembangun, penyelidik dan pengguna akhir yang perlu menjalankan model besar multimodal pada peranti, terutamanya dalam senario mudah alih dengan sumber terhad.

Cara memulakan

1. Lawati halaman Hugging Face https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B untuk memuat turun bobot model
2. Rujuk bahagian Usage dalam kad model untuk integrasi dan inferens
3. Gabungkan dengan DSpark untuk pengerahan dan inferens pada peranti

Disusun daripada penerangan awam di laman web rasmi / README / halaman pelancaran alat. Harga dan bilangan pengguna belum disahkan; sila semak laman web rasmi. Beberapa bahagian disediakan dengan bantuan AI. Ditulis dalam Bahasa Cina dan Inggeris; bahasa lain adalah terjemahan mesin.