project-maya

Que é project-maya

Project Maya é unha ferramenta que se executa localmente e admite o despregue privado do modelo GLM-5.3-Flash (321B MoE) en GPUs persoais (NVIDIA ou AMD, de 1 a 16 tarxetas, Linux ou Windows). Proporciona un motor, servidor, panel de control e APIs compatibles con OpenAI e Anthropic, e inclúe ferramentas de cuantización.

Características clave

• Admite o despregue privado do modelo GLM-5.3-Flash (321B MoE) en GPUs persoais (NVIDIA ou AMD, de 1 a 16 tarxetas)
• Proporciona un motor, servidor, panel de control no navegador e interface de chat, con soporte para xeración de imaxes
• Compatible coas APIs de OpenAI e Anthropic, admite chamadas a ferramentas e xestión de solicitudes simultáneas
• Inclúe unha ferramenta de cuantización desenvolvida internamente que pode reducir os modelos ata 96.5 GB mantendo unha alta precisión zero-shot
• Mide automaticamente GPU, CPU, RAM e SSD e realiza axustes automáticos, con soporte de lonxitude de contexto ata 1M de tokens

Para quen é

Para desenvolvedores, investigadores e usuarios de aplicacións de IA local que necesitan executar modelos GLM-5.3-Flash grandes de forma privada nunha GPU local. Admite Linux e Windows.

Como comezar

1. Visita https://github.com/mw00/project-maya
2. Instala seguindo a configuración dun só comando no README
3. Descarga pesos de modelos cuantizados como Maya-S
4. Inicia o servidor e o panel de control no navegador para comezar a usalo

Compilado a partir de descricións públicas no sitio web oficial / README / páxina de lanzamento da ferramenta. Os prezos e números de usuarios non foron verificados; consulta o sitio web oficial. Algunhas seccións foron redactadas con axuda de IA. Escrito en chinés e inglés; outras linguaxes están traducidas por máquina.