project-maya

project-maya 是什么

Project Maya 是一个本地运行工具，支持在个人 GPU（NVIDIA 或 AMD，1 到 16 张卡，Linux 或 Windows）上私有部署 GLM-5.3-Flash（321B MoE）模型，提供引擎、服务器、仪表盘以及兼容 OpenAI 和 Anthropic 的 API，还包含量化工具。

主要功能

• 支持在个人 GPU（NVIDIA 或 AMD，1 到 16 张卡）上私有部署 GLM-5.3-Flash（321B MoE）模型
• 提供引擎、服务器、浏览器仪表盘和聊天界面，支持生成图片
• 兼容 OpenAI 和 Anthropic 的 API，支持工具调用和同时处理多个请求
• 包含自研量化工具，可将模型量化至 96.5 GB 并保持较高零样本准确率
• 自动测量 GPU、CPU、RAM 和 SSD 并进行自我调优，上下文长度最高支持 1M tokens

适合谁

需要在本地 GPU 上私有运行大型 GLM-5.3-Flash 模型的开发者、研究者和本地 AI 应用使用者，支持 Linux 和 Windows 系统。

怎么开始用

1. 访问 https://github.com/mw00/project-maya
2. 按照 README 中的 one-command setup 进行安装
3. 下载 Maya-S 等量化模型权重
4. 启动服务器和浏览器仪表盘即可使用

内容依据工具官网 / README / 发布页公开描述整理，未核实价格与用户规模，请以官网为准。 部分段落由 AI 辅助生成。