MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B என்றால் என்ன

MiniCPM-V-4.7-35B-A3B என்பது OpenBMB ஆல் வெளியிடப்பட்ட ஒரு திறந்த மூல பல்லுணர்வு பெரிய மாதிரியாகும். இது படங்கள், வீடியோ மற்றும் பலவற்றின் பல்லுணர்வு புரிதலை ஆதரிக்கிறது. 35B-A3B அளவுரு அளவைக் கொண்டுள்ளது

முக்கிய அம்சங்கள்

• படங்கள், வீடியோ மற்றும் பலவற்றின் பல்லுணர்வு புரிதலை ஆதரிக்கிறது
• 35B-A3B MoE கட்டமைப்பைப் பயன்படுத்துகிறது; MiniCPM-V தொடரில் உள்ள முதல் MoE மாதிரி
• Lookahead Expert Scheduling (LES) தொழில்நுட்பத்தை ஒருங்கிணைக்கிறது, சாதனத்தில் இழப்பற்ற மென்மையான அனுமானத்திற்காக
• நுண்ணிய per-layer அளவுமாற்றத்தைப் பயன்படுத்துகிறது, இது 3 GB நினைவகத்துடன் iPhone-இல் இயங்க அனுமதிக்கிறது
• intra-ViT early compression தொழில்நுட்பத்தை அடிப்படையாகக் கொண்டது, இது பார்வை என்கோடருக்குள் ஆரம்பத்தில் காட்சி டோக்கன்களை சுருக்குகிறது

யாருக்காக

சாதனத்தில் பல்லூடக பெரிய மாதிரிகளை இயக்க வேண்டிய டெவலப்பர்கள், ஆராய்ச்சியாளர்கள் மற்றும் இறுதி பயனர்களுக்கு ஏற்றது, குறிப்பாக வள-வரையறுக்கப்பட்ட மொபைல் சூழல்களில்.

எப்படித் தொடங்குவது

1. மாதிரி எடைகளைப் பதிவிறக்க https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B Hugging Face பக்கத்தைப் பார்வையிடவும்
2. ஒருங்கிணைப்பு மற்றும் அனுமானத்திற்கு மாதிரி அட்டையில் உள்ள Usage பிரிவைப் பார்க்கவும்
3. சாதனத்தில் பயன்படுத்துவதற்கும் அனுமானத்திற்கும் DSpark உடன் இணைக்கவும்

கருவியின் அதிகாரப்பூர்வ வலைத்தளம் / README / அறிமுகப் பக்கத்தில் உள்ள பொது விளக்கங்களிலிருந்து தொகுக்கப்பட்டது. விலை மற்றும் பயனர் எண்ணிக்கைகள் சரிபார்க்கப்படவில்லை; அதிகாரப்பூர்வ வலைத்தளத்தைச் சரிபார்க்கவும். சில பிரிவுகள் AI உதவியுடன் வரைவு செய்யப்பட்டன. சீன மற்றும் ஆங்கிலத்தில் எழுதப்பட்டது; பிற மொழிகள் இயந்திர மொழிபெயர்ப்பு.