商用 API 中转站计费费率如何核算:输入输出、缓存与按量结算要点
大模型 API 账单和估算对不上,多半是核算口径不一致。本文从模型基础价与结算倍率、输入输出差价、缓存折扣、失败请求计费、多模型路由、Key 归因和稳定性隐性成本等层面,拆解商用 API 中转站的费率核算方法,并给出可落地的月度对账思路。
很多团队第一次拿到大模型 API 的月度账单,都会发现总金额与事前估算差出一截。问题通常不是调用量突然失控,而是没有把商用 API 中转站的计费口径拆清楚。所谓支付费率,在这里指的是用户为 API 调用量支付的费用如何被计算,而不是某一支付通道的手续费。要把它算准,至少要看模型基础价、平台结算倍率、输入输出差价、缓存命中、失败请求规则、路由策略、充值赠送和 Key 用量归因这几层。每一层都会影响最终账单,单看一个标价几乎没有意义。
最底层是模型基础单价与中转站的结算倍率。中转站先向上游或国产合规模型服务采购能力,再按自己的倍率向用户结算。这个倍率往往按输入和输出分别设置,因为输出 token 的定价普遍高于输入,长回答场景如果只记一个笼统单价,成本就会被严重低估。核算时要问清楚:不同模型是否分档、输入输出是否分列、倍率是否随用量变化。快米兔的模型 API 中转采用按量计费,具体费率与倍率以官方说明为准。
第二个变量是缓存命中折扣。支持上下文缓存的模型,重复前缀、固定系统提示词、知识库开头的长段落,在命中缓存后往往能享受明显折扣。可如果账单单只显示一个总 token 数,缓存与非缓存混在一起,就很容易把实际成本算高或算低。建议在核算前确认平台是否把缓存读取、缓存写入、非缓存 token 分列展示。同一段长提示词反复调用,与每次重新构造请求,账单可能差出一大截。
计量口径同样会直接改变结果。主流做法按 token 计费,但一段中文的 token 数与汉字数并不相等,代码、JSON、Markdown 表格又更碎。同一条业务逻辑,换一种提示词写法,消耗的 token 可能相差两三成。做预算时,抽样统计自己业务的真实 token 量,比套用经验值靠谱得多。可以按业务线各取一百条典型请求,记录输入输出长度,形成字符到 token 的换算表,再留出合理波动区间。
重试、超时和流式中断是否计费,是核算中最模糊的一段。有的平台只对已经产生输出的请求计费,有的对失败请求也按输入部分结算,还有的会对流式中断按已生成 token 计入。企业采购前应该把这条规则问清楚,并写进对账口径,否则每个月都会有一小笔说不清的开销。技术上要在网关或应用日志里保留请求编号、模型名、状态码、输入输出 token 数,否则事后无法复盘到底是哪类失败在消耗预算。
降低单位成本更有效的手段是多模型路由。把意图识别、分类、改写、摘要这类轻任务交给小参数模型,把复杂推理留给旗舰模型,整体账单往往能明显下降。路由规则设计得好不好,比谈几个点的折扣更影响最终支出。这也是自建网关与托管中转之间的主要差别之一:托管中转通常已经做了多模型适配,团队只需要配置路由策略;自建则要自己维护映射、降级和熔断。选择国产合规模型时,还要把内容安全和备案要求纳入路由方案。
充值赠送和测试金会直接改变实际单价,核算时应当把它折算进去。快米兔的模型 API 中转采用按量计费,注册即送 5 元测试金,新接入的团队可以先跑真实业务量,再拿实际消耗倒推单价是否合适。这种先试后算的方式,比只看标价更接近真实成本。折算时要注意赠送金额是否过期、是否能抵扣全部模型、是否影响开票,这些细节以官方说明为准。有效单价应当用现金支出除以实际成功消耗量,而不是用标价除以理论 token。
对有一定规模的企业,建议按业务线或项目拆分 Key,把用量归到具体调用方。这样月度核算时既能看出哪个功能最烧钱,也能在某个 Key 异常放量时及时收紧配额。把 Key 管理与账单结构绑定,是成本失控最常见的预防手段。可以为每个 Key 设置预算告警、速率限制和模型白名单,让开发、测试、生产环境使用不同 Key。月底对账时,先看各 Key 的调用量,再映射到业务指标,成本就不再是一笔糊涂账。
判断费率划不划算,不能只看单价。可用率、限流阈值、高峰期的响应稳定性,都会转化成隐性成本。一个单价低两成但三天两头超时的通道,实际付出的重试和人工排查成本可能更高。核算表里应该给稳定性和单价同样的权重。可以计算有效请求成本,即某业务线当月现金支出除以成功请求数,再与总请求平均成本对比。如果两者差距很大,说明失败和重试正在吞噬预算,优先要解决的是通道质量与超时设置。
自建网关看起来能省掉中间加价,但要把多模型适配、密钥轮换、限流熔断、用量统计、日志审计和合规检查都做一遍,人力和维护成本并不低。对多数中小团队来说,选择按量计费的托管中转,把精力放回业务侧,通常更划算。真正的比较应当是全生命周期成本:采购成本、接入人力、运维投入、故障损失、合规成本,以及业务增长后的扩容难度。只有把这些都放进同一张表,费率高低才有意义。
常见的核算误区有三个:只盯单价不看结构,把输入输出混在一起算,以及忽略失败请求和缓存折扣。再补充两个:把充值赠送当成永久低价,以及只看总账单不做 Key 归因。把这几点纠正过来,不少团队的 API 支出能在一个季度内降下来。核算本身不是财务动作,而是技术决策的一部分。它决定了路由怎么配、Key 怎么发、超时怎么设、预算告警放在哪一级。
落地到月度核算,可以固定一张表:现金支出、赠送抵扣、总调用数、成功调用数、输入 token、输出 token、缓存命中 token、失败计费 token、按模型和 Key 的拆分明细。核心指标有三个:每百万输出 token 的现金成本、每千次成功请求成本、失败与重试造成的额外成本占比。每月按同一口径复盘,异常波动就能定位到具体业务线或模型。快米兔在模型 API 中转上采用按量计费、注册送测试金的模式,适合先小规模验证再逐步放量的团队。具体套餐、费率与结算规则以官方说明为准,建议接入前先用真实业务跑一轮完整账单,再决定路由和预算方案。
