Underdog-Saluki-27B-1.0

Underdog-Saluki-27B-1.0 என்றால் என்ன

Qwen3.8-27B அடிப்படையிலான 2-பிட் GGUF குவாண்டைஸ் செய்யப்பட்ட மாதிரி, 8GB க்கும் குறைவான அளவுடன். இது கருவி-அழைப்பு திறனைப் பாதுகாப்பதில் கவனம் செலுத்துகிறது மற்றும் llama.cpp உடன் நேரடியாக இயக்கப்படலாம்.

முக்கிய அம்சங்கள்

• Qwen3.8-27B அடிப்படையிலான 2-பிட் GGUF குவாண்டைஸ் செய்யப்பட்ட மாதிரி, அளவு 7.89GB
• கருவி-அழைப்பு திறனைப் பாதுகாப்பதில் கவனம் செலுத்துகிறது மற்றும் இணையான கருவி அழைப்புகளை ஆதரிக்கிறது
• உரை உருவாக்கத்தை ஆதரிக்கிறது மற்றும் விருப்ப பார்வை துணை நிரலின் மூலம் படப் புரிதலை அடைய முடியும்
• சிந்தனை முறை இயல்புநிலையாக இயக்கப்பட்டுள்ளது மற்றும் ஒவ்வொரு கோரிக்கைக்கும் மாற்றப்படலாம், Qwen3.8 உடன் ஒத்துப்போகிறது
• நேரடி செயல்பாட்டிற்கு stock llama.cpp உடன் இணக்கமானது

யாருக்காக

பெரிய மாதிரிகளில் கருவி அழைப்பு மற்றும் பல்லுணர்வு பணிகளை இயக்க வேண்டிய பயனர்கள் ஆனால் வரையறுக்கப்பட்ட வன்பொருள் வளங்கள் உள்ளவர்கள். llama.cpp ஐ உள்ளூரில் பயன்படுத்தும் உருவாக்குநர்கள் மற்றும் ஆராய்ச்சியாளர்களுக்கு ஏற்றது.

எப்படித் தொடங்குவது

1. சேவையைத் தொடங்க llama-server -m Underdog-Saluki-27B-1.0-IQ2-mix.gguf --jinja -ngl 99 -fa on -c 32768 என இயக்கவும்
2. பார்வை திறனுக்கு, mmproj-Underdog-Saluki-27B-1.0-F16.gguf ஐக் கூடுதலாகப் பதிவிறக்கம் செய்து --mmproj அளவுருவுடன் ஏற்றவும்
3. OpenAI-இணக்கமான chat API (துறை 8080) வழியாகக் கோரிக்கைகளை அனுப்பவும், கருவி அழைப்புகள் மற்றும் சிந்தனை கட்டுப்பாட்டை ஆதரிக்கிறது

கருவியின் அதிகாரப்பூர்வ வலைத்தளம் / README / அறிமுகப் பக்கத்தில் உள்ள பொது விளக்கங்களிலிருந்து தொகுக்கப்பட்டது. விலை மற்றும் பயனர் எண்ணிக்கைகள் சரிபார்க்கப்படவில்லை; அதிகாரப்பூர்வ வலைத்தளத்தைச் சரிபார்க்கவும். சில பிரிவுகள் AI உதவியுடன் வரைவு செய்யப்பட்டன. சீன மற்றும் ஆங்கிலத்தில் எழுதப்பட்டது; பிற மொழிகள் இயந்திர மொழிபெயர்ப்பு.