Strot

Strot என்றால் என்ன

Strot என்பது ஒரு திறந்த மூலத் திட்டமாகும். இது LLM-ன் நோக்கத்தை ஒரு முறை தொகுத்து பின்னர் முடிவுகளை உள்ளூரில் இயக்குகிறது.

முக்கிய அம்சங்கள்

• LLM நோக்கத்தை ஒரு முறை தொகுத்து உள்ளூரில் இயக்கக்கூடிய முடிவு மாதிரியை உருவாக்குகிறது
• வகைப்பாடு, மதிப்பீடு, ரூட்டிங் மற்றும் இதுபோன்ற பணிகளுக்கு டைப்-சேஃப் JSON வெளியீட்டை ஆதரிக்கிறது. இதில் நிகழ்தகவுகள் மற்றும் நம்பிக்கை மதிப்பெண்களும் அடங்கும்
• உள்ளூர் வன்பொருளில் பூஜ்ய கூடுதல் செலவில் முடிவுகளை இயக்குகிறது. ரன்டைம் LLM அழைப்புகள் தேவையில்லை
• பதிவுகளை ரூட் செய்யவும் தொகுக்கப்பட்ட ஹேண்ட்லர்களை இயக்கவும் run() இடைமுகத்தை வழங்குகிறது
• பதிவுகளிலிருந்து பூலியன், மதிப்பெண் அல்லது பல-தேர்வு கேள்விகளுக்கு பதிலளிக்க decide() இடைமுகத்தை வழங்குகிறது

யாருக்காக

பெரிய எண்ணிக்கையிலான பதிவுகளை வகைப்படுத்த, மதிப்பிட அல்லது ரூட் செய்ய வேண்டிய டெவலப்பர்களுக்கும், உள்ளூர் வன்பொருளில் நிலையான-நோக்க முடிவுகளை திறமையாக இயக்க விரும்பும் பொறியாளர்களுக்கும்

எப்படித் தொடங்குவது

1. pip install strot-ai உடன் தொகுப்பை நிறுவவும்
2. Python குறியீட்டில் strot.run() அல்லது strot.decide() ஐ அழைத்து பதிவுகள், வினவல்கள் அல்லது கேள்வி வரையறைகளை அனுப்பவும்
3. தொகுப்பு கட்டத்தில் LLM ஐப் பயன்படுத்தி முடிவு மாதிரியை உருவாக்கவும், பின்னர் அதை உள்ளூரில் மீண்டும் பயன்படுத்தவும்

கருவியின் அதிகாரப்பூர்வ வலைத்தளம் / README / அறிமுகப் பக்கத்தில் உள்ள பொது விளக்கங்களிலிருந்து தொகுக்கப்பட்டது. விலை மற்றும் பயனர் எண்ணிக்கைகள் சரிபார்க்கப்படவில்லை; அதிகாரப்பூர்வ வலைத்தளத்தைச் சரிபார்க்கவும். சில பிரிவுகள் AI உதவியுடன் வரைவு செய்யப்பட்டன. சீன மற்றும் ஆங்கிலத்தில் எழுதப்பட்டது; பிற மொழிகள் இயந்திர மொழிபெயர்ப்பு.