一个针对 AI Agent 开销与工具调用的防火墙
近日,一款名为 Governor 的开源工具亮相,定位是 AI Agent 的防火墙,专门用来管控 Agent 的模型调用开销和工具调用行为。项目方上线了一个在线演示,用户无需注册,即可直观看到 Governor 如何拦截一个脚本化 Agent 的各种动作。
演示:亲眼看着 Governor 拦下 Agent
在演示页面中,每个按钮都会让一个脚本化的 Agent 通过 Governor 调用 AI 模型。演示中的模型是假的,不涉及真实 AI 调用,也不产生费用,但每一次调用都会经过真实的 Governor,且每一条决策都会以签名形式写入审计日志,整个过程透明可查。
规则按顺序匹配,先到先得
Governor 的管控核心是规则系统。每个 Agent 的密钥(key)上都可以挂一组规则,系统按顺序逐条检查,第一条匹配某个工具调用的规则即决定该调用的命运;没有任何规则匹配的调用则默认放行。用户可以据此设置不同密钥的额度上限和工具策略,实现细粒度管控。
部署方式:一个小代理即可接入
在实际使用中,Governor 以一个小型代理的形式运行,仅需 Node 18 及以上版本,零依赖,部署在 Agent 与 Anthropic、OpenAI 或 xAI 之间。接入方式也很简单:只需在 SDK 中修改 base URL,并为每个 Agent 分配一个带有独立额度和工具规则的 Governor 密钥。
关键能力:拦截模型回复中的工具调用
Governor 的一大特点是,它会在你的 Agent 看到模型回复之前,先一步查看回复中包含的工具调用:被规则拒绝的调用会被直接阻断,而规则要求人工介入的调用则会被暂时扣留,等待人来审批。这为自动化 Agent 的安全运行提供了一道可控的闸门,尤其是对涉及花费和敏感操作的调用场景。
© 版权声明
文章版权归作者所有,未经允许请勿转载。







