商用 API 中转站费率核算:上游成本、模型倍率与按量结算的口径拆解
商用 API 中转站的费率往往不只是每百万 token 的标价。本文拆解输入输出拆分、模型倍率、缓存折扣、预扣回冲与失败请求归属五个变量,说明如何把名义单价折算成真实业务成本,并给出小规模验证的具体做法。
商用 API 中转站的费率,常被简化成“每百万 token 多少钱”。但真实账单里,同一段代码在不同平台上跑出来的费用,差距往往不在标称单价,而在折算口径、预扣规则与失败请求的归属。把这层账算清楚,比反复比价更有意义。
中转站的费率结构大致分四层:上游模型的采购成本、路由与调度的损耗、平台运营与风控投入,以及账期与预扣带来的资金占用。上游成本随模型厂商调价而波动,是硬成本;后三层则决定了一个平台最终对外报出的数字。因此不同中转站之间的报价差异,很多时候来自计价口径,而非单纯的加价比例。
第一层口径是输入与输出的拆分。主流接口对输入 token 与输出 token 分别定价,输出通常更贵;如果平台只按合计 token 报一个价,短期看起来简单,但在长上下文、长输出场景下很容易被低估。核算时应把输入与输出分开统计,再分别套用各自单价,才能还原真实成本。
第二层是模型倍率。同一平台下,轻量模型与旗舰模型的单位价格可以差出数十倍,中转站一般用倍率表统一管理。做预算时不能只看主力模型的单价,要按调用量分布加权:多少比例走了轻量模型,多少走了高能力模型,得到的是加权均价,而不是某一档标价。
第三层是缓存与批量的折扣口径。部分上游对命中缓存的输入 token 给予折扣,部分支持批量任务错峰执行,中转站是否把这部分优惠原样传导到下游,直接决定高频重复调用场景的实际费率。选型时可以用一段带有大量重复前缀的请求做验证,对比账单前后差异,比看文档更直观。
第四层是预扣与结算。多数中转站在请求发起时按预估 token 预扣余额,请求结束后按实际用量回冲;流式响应因为无法提前知道长度,预扣偏差相对更大。只要回冲及时、明细可查,这套机制本身没有问题;真正需要关注的是预扣比例是否过高,以及异常中断后额度是否原路退回。
失败请求的归属,是最容易产生争议的一环。上游返回 4xx 通常不计费,而 5xx 与超时是否重试、重试成功算一次还是两次,各平台处理方式不同。做核算时可以在压测中故意制造超时,观察账单里出现的是“上游错误不扣费”还是“按重试次数计费”,这比逐条读文档更直接。
限流与重试构成隐性成本。当并发触达平台阈值,请求排队或被拒绝,业务侧往往自动重试,实际调用量被放大。名义单价再低,如果同样的业务量需要多花三成请求次数,综合成本依然偏高。因此核算口径最好落到“每千次有效业务调用的成本”,而不是“每百万 token 的标价”。
一个可复用的核算框架是:先按月统计有效调用次数与 token 结构,再乘以各模型单价得到理论成本,最后与账单实际扣费相减,差额就是预扣误差、失败重试与折扣传导的综合体现。连续观测两三个账期,基本能判断一个平台的费率是否稳定、口径是否透明。
快米兔 API 在这方面的做法比较直观:按量计费,不设月付、季付套餐,按需消耗;新用户注册送 5 元测试金,可以直接用来跑通上面这套验证流程——用真实业务请求压一压,看账单明细与预扣回冲是否对得上。这种先小额验证、再逐步放量的路径,对小团队核算费率尤其省事。
除了单价,还要看配套能力。Key 的分层管理与用量归因,决定了你能否把成本分摊到具体业务线;多模型路由与降级策略,则影响高峰期是否被迫用更贵的模型顶上去。这些能力不直接写在价目表上,但会实实在在改变月度账单的构成。
结论:商用 API 中转站的费率核算,本质是一道“口径题”而非“单价题”。把输入输出拆分、模型倍率、缓存折扣、预扣回冲、失败归属这几个变量对照清楚,再去比价才有意义。对于刚开始使用中转能力的团队,先用平台赠送的测试金跑一轮小规模验证,再决定放量节奏,是成本最可控的做法。
