Underdog-Saluki-27B-1.0

ما هو Underdog-Saluki-27B-1.0

نموذج 2-bit GGUF مكمم مبني على Qwen3.8-27B، حجمه أقل من 8 جيجابايت. يركز على الحفاظ على قدرة استدعاء الأدوات ويمكن تشغيله مباشرة باستخدام llama.cpp.

الميزات الرئيسية

• نموذج 2-bit GGUF مكمم مبني على Qwen3.8-27B، حجمه 7.89 جيجابايت
• يركز على الحفاظ على قدرة استدعاء الأدوات ويدعم استدعاءات الأدوات المتوازية
• يدعم توليد النصوص ويمكنه تحقيق فهم الصور عبر إضافة رؤية اختيارية
• وضع التفكير مفعل افتراضيًا ويمكن تبديله لكل طلب، متسق مع Qwen3.8
• متوافق مع llama.cpp الأصلي للتنفيذ المباشر

من هي موجهة له

المستخدمون الذين يحتاجون إلى تشغيل مهام استدعاء الأدوات والمهام متعددة الوسائط على نماذج كبيرة ولكن لديهم موارد أجهزة محدودة. مناسب للمطورين والباحثين الذين ينشرون llama.cpp محليًا.

كيفية البدء

1. شغّل llama-server -m Underdog-Saluki-27B-1.0-IQ2-mix.gguf --jinja -ngl 99 -fa on -c 32768 لبدء الخدمة
2. لإمكانية الرؤية، قم بتنزيل mmproj-Underdog-Saluki-27B-1.0-F16.gguf إضافيًا وقم بتحميله باستخدام معامل --mmproj
3. أرسل الطلبات عبر واجهة برمجة التطبيقات المتوافقة مع OpenAI للدردشة (المنفذ 8080)، تدعم استدعاء الأدوات والتحكم في التفكير

مجمعة من الوصف العام على الموقع الرسمي للأداة / README / صفحة الإطلاق. لم يتم التحقق من الأسعار وأعداد المستخدمين؛ يرجى التحقق من الموقع الرسمي. بعض الأقسام تمت صياغتها بمساعدة الذكاء الاصطناعي. مكتوبة بالصينية والإنجليزية؛ اللغات الأخرى مترجمة آلياً.