project-maya

Què és project-maya

Project Maya és una eina que s’executa localment i admet el desplegament privat del model GLM-5.3-Flash (321B MoE) en GPUs personals (NVIDIA o AMD, d’1 a 16 targetes, Linux o Windows). Proporciona un motor, servidor, tauler de control i APIs compatibles amb OpenAI i Anthropic, i inclou eines de quantització.

Funcionalitats principals

• Admet el desplegament privat del model GLM-5.3-Flash (321B MoE) en GPUs personals (NVIDIA o AMD, d’1 a 16 targetes)
• Proporciona un motor, servidor, tauler de control al navegador i interfície de xat, amb suport per a generació d’imatges
• Compatible amb les APIs d’OpenAI i Anthropic, admet crides a eines i gestió de sol·licituds simultànies
• Inclou una eina de quantització desenvolupada pròpiament que pot quantitzar models fins a 96,5 GB tot mantenint una alta precisió zero-shot
• Mesura automàticament GPU, CPU, RAM i SSD i realitza autoajustament, amb suport de longitud de context fins a 1 M de tokens

Per a qui és

Per a desenvolupadors, investigadors i usuaris d’aplicacions d’IA local que necessiten executar models GLM-5.3-Flash grans de manera privada en una GPU local. Admet Linux i Windows.

Com començar

1. Visita https://github.com/mw00/project-maya
2. Instal·la seguint la configuració d’una sola ordre al README
3. Baixa pesos de models quantitzats com ara Maya-S
4. Inicia el servidor i el tauler de control al navegador per començar a utilitzar-lo

Compilat a partir de descripcions públiques del lloc web oficial / README / pàgina de llançament de l'eina. Els preus i el nombre d'usuaris no s'han verificat; consulta el lloc web oficial. Algunes seccions s'han redactat amb ajuda d'IA. Escrit en xinès i anglès; altres idiomes són traduïts automàticament.