project-maya

¿Qué es project-maya

Project Maya es una herramienta que se ejecuta localmente y permite el despliegue privado del modelo GLM-5.3-Flash (321B MoE) en GPUs personales (NVIDIA o AMD, de 1 a 16 tarjetas, Linux o Windows). Proporciona motor, servidor, panel de control y APIs compatibles con OpenAI y Anthropic, e incluye herramientas de cuantización.

Características clave

• Permite el despliegue privado del modelo GLM-5.3-Flash (321B MoE) en GPUs personales (NVIDIA o AMD, de 1 a 16 tarjetas)
• Proporciona motor, servidor, panel de control en navegador e interfaz de chat, con soporte para generación de imágenes
• Compatible con las APIs de OpenAI y Anthropic, soporta llamadas a herramientas y manejo de solicitudes concurrentes
• Incluye una herramienta de cuantización desarrollada internamente que puede reducir los modelos hasta 96.5 GB manteniendo una alta precisión zero-shot
• Mide automáticamente GPU, CPU, RAM y SSD y realiza autoajuste, con soporte de longitud de contexto de hasta 1M tokens

Para quién es

Para desarrolladores, investigadores y usuarios de aplicaciones de IA local que necesitan ejecutar modelos GLM-5.3-Flash grandes de forma privada en una GPU local. Compatible con Linux y Windows.

Cómo empezar

1. Visita https://github.com/mw00/project-maya
2. Instala siguiendo la configuración con un solo comando del README
3. Descarga pesos de modelos cuantizados como Maya-S
4. Inicia el servidor y el panel de control en navegador para empezar a usar

Compilado a partir de descripciones públicas del sitio web oficial / README / página de lanzamiento de la herramienta. Los precios y números de usuarios no han sido verificados; consulta el sitio web oficial. Algunas secciones fueron redactadas con ayuda de IA. Escrito en chino e inglés; otros idiomas están traducidos automáticamente.