预算公式
一旦拥有三个输入值,月度估算只需一行算术。将其写在电子表格中,并在流量变化时更新。
cost_per_request = input_tokens * input_rate / 1,000,000
+ output_tokens * output_rate / 1,000,000
monthly_cost = requests_per_day * 30 * cost_per_request
对于 Claude 模型,请从 Anthropic 当前定价页面获取输入和输出费率。我们不列出这些费率,因为它们会变动。对于本站背后的服务,费率为每 1M 输入 token $0.15,每 1M 输出 token $0.50,以下所有示例均使用这些费率。如果你想为相同的工作负载在其他地方定价,只有这两个费率会变化。
每日请求数和每次请求的 token 数从何而来?来自你的日志。如果还没有日志,请运行二十次真实请求,读取每次响应的 usage 块并取平均值。在测量之前猜测的数字通常太低,主要是因为对话历史记录。
三个小型应用预算
以下是三个合理的应用,每个应用都使用上述公式计算 30 天期间的成本。
| 应用 | 每日请求数 | 每次请求的 token 数(输入/输出) | 按请求 | 每月 |
|---|---|---|---|---|
| 小型商店的支持机器人 | 300 | 2,500 / 350 | $0.00055 | $4.95 |
| 笔记应用中的写作助手 | 2,000 | 1,000 / 250 | $0.000275 | $16.50 |
| 角色扮演平台 | 10,000 | 4,000 / 500 | $0.00085 | $255.00 |
第一行的计算:2,500 x 0.15 / 1,000,000 = $0.000375 以及 350 x 0.50 / 1,000,000 = $0.000175,因此每次请求 $0.00055。然后 300 x 30 = 9,000 次请求,并且 9,000 x $0.00055 = $4.95。
最后一行:4,000 x 0.15 / 1,000,000 = $0.0006 和 500 x 0.50 / 1,000,000 = $0.00025,因此 $0.00085。每月 300,000 次请求的情况下,账单为 $255.00。
为平均值隐藏的部分增加余量
基于平均值的预算在糟糕的日子会失败。有三件事会导致实际支出超过估算。
历史记录增长
聊天应用会重新发送之前的对话轮次,因此会话中的后期消息比早期消息成本更高。在长会话上测量 token,而不是在第一条消息上测量,或者限制历史记录长度并总结其余部分。
流量峰值
如果帖子走红,每日请求数可能会在一夜之间翻倍。在估算基础上增加 50% 的余量是一个合理的起点。
重试
客户端在超时后重试会导致重复请求。在此服务上,失败或被拒绝的请求不收费,但重试在第一次慢速尝试成功后正常收费一次。
还要将限制与你的峰值进行比较。每天一万次请求平均约为每分钟 7 次(10,000 / 1,440)。完整密钥允许每分钟 300 次请求和 8 个并发,因此平均值远低于限制。同时有 50 个用户突发访问则超出限制,你应该排队请求而不是让它们失败。试用密钥允许 2 个并发和每分钟 60 次请求,仅用于测试。
通过预付充值限制支出
使用按量付费的预付额度,预算也是上限。你添加额度,API 按 token 扣除,当额度耗尽时请求停止。月底没有发票,也没有超额费用。额度永不过期,因此大于一个月需求的充值不会浪费。
充值金额为 $20 到 $500 之间的任何整金额,仅支持加密货币支付:TRC20 上的 USDT 或 Base 上的 USDC。大额充值享有额外奖励:
- $50 给予 +5%,即 $52.50 的额度。
- $100 给予 +10%,即 $110。
- $200 给予 +15%,即 $230。
- $500 也获得 +15% 层级,即 $575。
将其与上述预算匹配:每月 $4.95 的支持机器人,$20 的充值可覆盖约四个月(20 / 4.95 约等于 4.0)。每月 $16.50 的写作助手,$50 的充值可覆盖三个月,因为 $52.50 / $16.50 约等于 3.2。角色扮演平台每月 $255.00,即使 $230 的 $200 充值也覆盖不了,因此需要约 $250 的充值或两次较小的充值。在这个规模下,请密切关注余额。
从代码监控余额
每个响应都带有 X-Balance-USD 标头。你可以在 OpenAI Python SDK 中使用原始响应包装器读取它,并在资金耗尽前警告自己。
from openai import OpenAI
client = OpenAI(
base_url="https://api.claudeapicosts.com/v1",
api_key="YOUR_KEY",
)
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Reply with the word ready."}],
max_tokens=10,
)
resp = raw.parse()
balance = float(raw.headers.get("X-Balance-USD", "0"))
print(resp.choices[0].message.content, balance)
if balance < 5:
print("Balance is low: top up soon")
你也可以轮询 GET /v1/balance,或 OpenAI 风格的 GET /v1/dashboard/billing/credit_grants,使用相同的 bearer token:
curl https://api.claudeapicosts.com/v1/balance \
-H "Authorization: Bearer YOUR_KEY"
将检查挂钩到每日任务中,当余额低于两周的预期支出时给自己发送消息。这样可以防止上限变成服务中断。
如果流量翻倍会发生什么
在增长发生之前针对增长测试你的计划。请求翻倍会使账单翻倍,因为成本与请求数呈线性关系。上述三个应用每月成本将为 $9.90、$33.00 和 $510.00。如果每次请求的 token 数也增长 50%,因为用户编写更长的消息或会话运行时间更长,则再乘以 1.5。
提前规划决策点。例如,决定当月度支出超过你设定的金额时,你将缩短历史记录、缩短系统提示词或限制输出长度,然后再添加额度。在峰值之前写下规则可以防止你为泄漏的提示词付费。
降低月度数字的方法
- 缩短历史记录。 删除最旧的轮次或将其替换为简短摘要。输入 token 是聊天账单的主要部分。
- 限制输出。 设置
max_tokens并提示要求简洁回答,可降低更昂贵的计费项。 - 缩短系统提示词。 它随每个请求发送,因此每次请求缩短 500 个 token 可节省 500 x 0.15 / 1,000,000 = $0.000075。每月 300,000 次请求可节省 $22.50。
- 缓存你自己的答案。 如果许多用户询问相同的问题,请存储回复。
在扩展之前,先用免费试用额度测试:注册后,在 API 密钥页面 领取 $0.50,无需信用卡,有效期 7 天,每人限领一次。定价页面 提供最新费率和奖励层级,文档 解释了流式输出、函数调用和 JSON 模式,我们的文章 无审查 LLM 的真实成本 深入探讨了成本驱动因素。该服务独立,并非 Anthropic 的 API。仅支持文本,上下文窗口为 100,000 个 token。
