商用 API 中转站费率怎么核算:模型倍率、输入输出系数与缓存折扣的四个口径
商用 API 中转站的费率并非单一价格,而是由模型倍率、输入输出系数、缓存命中折扣与渠道成本共同决定。本文拆解 token 计量方式、失败与中断请求是否扣费、按量计费与周期套餐的成本差异,并给出企业核对账单时可直接复用的口径清单。
企业把大模型接入预算纳入年度采购之后,技术负责人被问到的第一个问题往往不是延迟多少毫秒,而是这笔钱究竟怎么算出来的。同一款模型,不同中转站给出的单价看上去相差无几,月末账单却可能差出两三成。差异通常不在用得多少,而在核算口径本身。
中转站的费率核算一般以 token 为最小计价单位,把一次调用拆成输入与输出两段分别计量。输入包括系统提示词、历史上下文、工具与函数定义,输出包括模型生成的正文以及部分模型产生的推理内容。不少团队只盯着首页展示的单价,忽略了长上下文会把输入 token 迅速推高,实际支出的大头常常落在输入侧。
在单价之上还有一层模型倍率。中转站会维护一张倍率对照表,以某个基准模型的单价为 1,其余模型按倍率折算。倍率既反映上游厂商的官方定价差,也包含了渠道成本与容灾冗余。核对倍率表时要特别注意版本与生效时间,模型迭代或上游调价后倍率会更新,拿几个月前的截图对账是常见的误会来源。
同一个模型内部,输出 token 的单价通常高于输入,倍数从一倍到数倍不等。这意味着一篇改写摘要任务和一段代码生成任务的成本结构完全不同,前者输入长、输出短,后者输入短、输出长。按量计费的中转站一般会把输入输出系数写进计费说明,做预算时应当把它当成独立变量,而不是只算一个总量。
缓存与批处理是另外两个容易被忽略的折扣口径。若上游支持上下文缓存,命中缓存的部分通常按更低的折扣计价,对系统提示词高度重复的客服、审核、分类类应用影响相当大。批处理接口则可能给出另一个更低的费率档位,代价是返回时间被拉长。核算时应当把缓存命中率当成可优化的指标,而不是把它当作运气。
多模型路由在成本上的意义,是用合适的模型做合适的事。把简单意图分发给轻量模型,把复杂推理留给大模型,整体支出能明显下降。需要留意的是,当某个渠道失败、系统自动切换备用渠道时是否重复计费,取决于中转站的计量口径。合理的做法是只对成功返回的调用计费,重试产生的上游成本由服务方承担。
真正容易起争议的,是那些边角情况:流式响应中途断开、请求超时、内容被安全策略拦截、模型返回空内容,这些算不算一次有效计费调用。清晰的口径是按实际消耗的上游 token 结算,并在账单日志里保留原始用量字段,让接入方能够逐条回溯到具体请求,而不是只看到一个汇总数字。
与周期套餐相比,按量计费的逻辑更贴近 token 的实际消耗。套餐按周期买断额度,用量波动时要么浪费要么超支;按量计费把额度与 token 直接挂钩,没有月付季付带来的固定支出压力。快米兔在模型 API 中转业务上采用按量计费,注册即送 5 元测试金,团队可以先跑通链路、看清真实的用量曲线,再决定投入规模,这种先验证后放量的顺序对预算审批更友好。
企业侧的对账粒度应当落到 Key 与项目两级。每条业务线使用独立的 Key,账单才能对应到具体部门或产品线的成本。用量日志需要支持按时间、模型、状态码筛选,余额到达阈值时能触发告警。把余额提醒接到值班群,比月末才发现额度耗尽要划算得多。
限流与费率是两条线,不应混为一谈。限流是并发数与速率控制,被 429 拒绝的请求并没有消耗上游算力,也就不应计入费用。选型时值得确认限流阈值、突发额度与退避重试策略是否公开透明,避免在业务高峰期把重试流量算成双份支出。
把费率核对压缩成四步会更容易执行:确认计价单位与输入输出系数,确认倍率表的版本与生效时间,确认失败与中断请求的计费规则,确认账单能否按 Key 导出明细。四步走完,费率就从一句口头报价变成可以复算的公式。对多数接入方而言,快米兔的按量计费配合小额测试金,更适合先小规模验证、再逐步放量的节奏,具体费率与计费规则以官方说明为准。
