project-maya

project-maya என்றால் என்ன

Project Maya என்பது உள்ளூரில் இயங்கும் கருவியாகும், இது GLM-5.3-Flash (321B MoE) மாடலை தனிப்பட்ட GPUகளில் (NVIDIA அல்லது AMD, 1 முதல் 16 கார்டுகள், Linux அல்லது Windows) தனிப்பட்ட வகையில் நிறுவுவதை ஆதரிக்கிறது. இது OpenAI மற்றும் Anthropic உடன் இணக்கமான 엔்ஜின், சர்வர், டாஷ்போர்டு மற்றும் APIகளை வழங்குகிறது, மேலும் அளவு குறைப்பு கருவிகளையும் உள்ளடக்கியது.

முக்கிய அம்சங்கள்

• GLM-5.3-Flash (321B MoE) மாடலை தனிப்பட்ட GPUகளில் (NVIDIA அல்லது AMD, 1 முதல் 16 கார்டுகள்) தனிப்பட்ட வகையில் நிறுவுவதை ஆதரிக்கிறது
• என்ஜின், சர்வர், உலாவி டாஷ்போர்டு மற்றும் அரட்டை இடைமுகத்தை வழங்குகிறது, பட உருவாக்க ஆதரவுடன்
• OpenAI மற்றும் Anthropic APIகளுடன் இணக்கமானது, கருவி அழைப்பு மற்றும் ஒரே நேரத்தில் கோரிக்கை கையாளுதலை ஆதரிக்கிறது
• தனிப்பட்ட வகையில் உருவாக்கப்பட்ட அளவு குறைப்பு கருவியை உள்ளடக்கியது, இது மாடல்களை 96.5 GB வரை குறைக்க முடியும் மற்றும் உயர் zero-shot துல்லியத்தை பராமரிக்கிறது
• GPU, CPU, RAM மற்றும் SSD ஐ தானாக அளவிடுகிறது மற்றும் தன்னியக்க சரிசெய்தலைச் செய்கிறது, 1M டோக்கன்கள் வரை சூழல் நீள ஆதரவுடன்

யாருக்காக

டெவலப்பர்கள், ஆராய்ச்சியாளர்கள் மற்றும் உள்ளூர் AI பயன்பாட்டு பயனர்களுக்கு ஏற்றது, அவர்கள் பெரிய GLM-5.3-Flash மாடல்களை உள்ளூர் GPU இல் தனிப்பட்ட முறையில் இயக்க வேண்டும். Linux மற்றும் Windows ஐ ஆதரிக்கிறது.

எப்படித் தொடங்குவது

1. https://github.com/mw00/project-maya தளத்தைப் பார்வையிடவும்
2. README இல் உள்ள ஒரு-கட்டளை அமைப்பைப் பின்பற்றி நிறுவவும்
3. Maya-S போன்ற அளவு குறைக்கப்பட்ட மாடல் எடைகளைப் பதிவிறக்கவும்
4. சர்வரைத் தொடங்கி உலாவி டாஷ்போர்டைத் திறந்து பயன்படுத்தத் தொடங்கவும்

கருவியின் அதிகாரப்பூர்வ வலைத்தளம் / README / அறிமுகப் பக்கத்தில் உள்ள பொது விளக்கங்களிலிருந்து தொகுக்கப்பட்டது. விலை மற்றும் பயனர் எண்ணிக்கைகள் சரிபார்க்கப்படவில்லை; அதிகாரப்பூர்வ வலைத்தளத்தைச் சரிபார்க்கவும். சில பிரிவுகள் AI உதவியுடன் வரைவு செய்யப்பட்டன. சீன மற்றும் ஆங்கிலத்தில் எழுதப்பட்டது; பிற மொழிகள் இயந்திர மொழிபெயர்ப்பு.