d3

d3 என்றால் என்ன

vllm-sr/d3 என்பது vLLM அனுமான இயந்திரத்தை அடிப்படையாகக் கொண்ட ஒரு திறந்த மூல மாதிரி களஞ்சியமாகும், பெரிய மொழி மாதிரிகளின் திறமையான பயன்பாடு மற்றும் அனுமானத்தை மையமாகக் கொண்டது.

முக்கிய அம்சங்கள்

• உரை அல்லது JSON உள்ளீட்டை ஆதரிக்கிறது மற்றும் பல படங்கள் மற்றும் வீடியோக்களை ஒரே நேரத்தில் இணைக்க முடியும்
• ஒரே அழைப்பில் பல முடிவு வகைகளை கையாள முடியும்: பல-தேர்வு, ஆம்/இல்லை, மதிப்பீடு, மற்றும் ஒவ்வொரு பதிலுக்கும் நிகழ்தகவைத் திருப்பி அளிக்கும்
• உரையை உருவாக்காமல் நேரடியாக முடிவு நிகழ்தகவுகளை வெளியிடுகிறது
• பல PNG, JPEG மற்றும் WebP படங்களையும் MP4, WebM, MOV மற்றும் MKV வீடியோக்களையும் படிக்க ஆதரிக்கிறது
• vLLM Semantic Router-க்கான 27B பல்லுணர்வு முடிவு அடிப்படை மாதிரியாக செயல்பட முடியும்

யாருக்காக

திறமையான பல்லுணர்வு முடிவு அனுமானத்தைச் செய்ய வேண்டிய டெவலப்பர்கள், தேர்வு, தீர்ப்பு அல்லது மதிப்பீட்டு பயன்பாடுகளை உருவாக்குவதற்கு ஏற்றது.

எப்படித் தொடங்குவது

1. ஆன்லைன் சோதனைக்கு அதிகாரப்பூர்வ இடத்தைப் பார்வையிடவும்: vllm-sr/Decision-3.0

கருவியின் அதிகாரப்பூர்வ வலைத்தளம் / README / அறிமுகப் பக்கத்தில் உள்ள பொது விளக்கங்களிலிருந்து தொகுக்கப்பட்டது. விலை மற்றும் பயனர் எண்ணிக்கைகள் சரிபார்க்கப்படவில்லை; அதிகாரப்பூர்வ வலைத்தளத்தைச் சரிபார்க்கவும். சில பிரிவுகள் AI உதவியுடன் வரைவு செய்யப்பட்டன. சீன மற்றும் ஆங்கிலத்தில் எழுதப்பட்டது; பிற மொழிகள் இயந்திர மொழிபெயர்ப்பு.