智能问答系统降低语言模型成本

什么是 LLM-cost-watch？

LLM-cost-watch 是一个 Model Context Protocol (MCP) 服务器，用于跟踪和分析语言模型（LLM）的支出和延迟。它允许用户直接在 Claude Desktop、Claude Code 或 Antigravity 中向 Claude 询问关于 LLM 支出的问题。

如何使用 LLM-cost-watch？

用户可以通过向 Claude 提问来使用 LLM-cost-watch。例如，用户可以问：“Claude，为什么我们的 LLM 支出本周增加了 40%，哪里是我们的延迟瓶颈？” Claude 将通过调用 LLM-cost-watch 的 API 来回答这个问题，并提供详细的分析结果，包括支出和延迟的具体原因。

LLM-cost-watch 的优势

LLM-cost-watch 的主要优势是能够直接在 Claude 中询问关于 LLM 支出的问题，而不需要点击复杂的 web 控制台。它可以帮助用户快速了解 LLM 支出的原因和延迟瓶颈，从而更好地优化和管理语言模型的使用。