Underdog-Saluki-27B-1.0

Zer da Underdog-Saluki-27B-1.0

Qwen3.8-27B-n oinarritutako 2-biteko GGUF kuantizazio eredua, 8 GB baino gutxiagoko tamainarekin. Tresna-dei gaitasuna mantentzean zentratzen da eta zuzenean exekutatu daiteke llama.cpp-rekin.

Ezaugarri nagusiak

• Qwen3.8-27B-n oinarritutako 2-biteko GGUF kuantizazio eredua, 7.89 GB tamainarekin
• Tresna-dei gaitasuna mantentzean zentratzen da eta tresna-dei paraleloak onartzen ditu
• Testu-sorkuntza onartzen du eta irudi-ulermena lor dezake aukerazko ikusmen gehigarri baten bidez
• Pentsamendu modua lehenetsita dago eta eskaerako aldatu daiteke, Qwen3.8-rekin koherentea
• Stock llama.cpp-rekin bateragarria da zuzenean exekutatzeko

Nori zuzenduta dago

Erabiltzaileek tresna-dei eta multimodal zereginak exekutatu behar dituzte modelo handietan, baina baliabide hardware mugatuak dituzte. Egokia da garatzaile eta ikertzaileentzat llama.cpp lokalki zabaltzen dutenentzat.

Nola hasi

1. Exekutatu llama-server -m Underdog-Saluki-27B-1.0-IQ2-mix.gguf --jinja -ngl 99 -fa on -c 32768 zerbitzua abiarazteko
2. Ikusmen gaitasunerako, deskargatu mmproj-Underdog-Saluki-27B-1.0-F16.gguf eta kargatu --mmproj parametroarekin
3. Bidali eskaerak OpenAI-rekin bateragarria den chat APIaren bidez (8080 ataka), tresna-deiak eta pentsamendu-kontrola onartzen ditu

Tresnaren webgune ofizialean / READMEan / abiarazte-orrian dauden deskribapen publikoetatik bilduta. Prezioak eta erabiltzaile-kopuruak ez dira egiaztatu; egiaztatu webgune ofiziala. Atal batzuk AI laguntzarekin idatzi ziren. Txineraz eta ingelesez idatzia; beste hizkuntzak makinaz itzulita daude.