Strot

Strot 是什么

Strot 是一个开源项目，能将 LLM 的意图编译一次，然后在本地运行决策。

主要功能

• 将LLM意图编译一次，生成可在本地运行的决策模型
• 支持分类、评分、路由等JSON格式的类型安全输出，包含概率和置信度
• 在本地硬件上以零边际成本运行决策，无需运行时调用LLM
• 提供run()接口路由记录并执行编译后的处理程序
• 提供decide()接口对记录回答布尔值、分数或选择类问题

适合谁

需要对大量记录进行分类、评分或路由的开发者，以及希望在本地高效运行固定意图决策的工程师。

怎么开始用

1. 使用 pip install strot-ai 安装软件包
2. 在Python代码中调用 strot.run() 或 strot.decide() 并传入记录、查询或问题定义
3. 在编译阶段使用LLM生成决策模型，之后可在本地重复使用

内容依据工具官网 / README / 发布页公开描述整理，未核实价格与用户规模，请以官网为准。 部分段落由 AI 辅助生成。