运营指南

API 中转站间连商户接入实操:子 Key 划分、额度下发与对账口径怎么定

间连商户接入 API 中转站,真正的工作量不在改 base_url,而在账号结构、Key 权限、额度下发、限流退避与对账口径这几件事。本文按接入前、灰度期、上线后三个阶段排出一条实操清单,说明每一步该确认什么、常见坑在哪里,以及如何用小额测试金先跑通链路再放量。

把模型能力接进自己的系统,最省事的路径往往不是逐一对接各家厂商,而是找一家已经完成聚合的上游中转站,用统一接口调用模型。这种合作模式下,下游团队通常被称为间连商户:不直接持有厂商账号,而是通过上游分配的子 Key 调用模型,结算也走上游。听起来只是换个 base_url,真正落地时却处处是细节,账号结构、额度下发、限流、对账,任何一项没约定清楚,都会在上线后变成反复沟通的成本。

接入前的第一件事是把账号结构定下来。上游给下游开一个租户,下游再在自己的租户下生成子 Key 分发给不同项目或不同环境,是最常见的做法。生产与测试必须拆成两套 Key,避免调试流量污染线上账单;同一项目里若有多个协作方,也应一人一 Key,方便出问题时按 Key 定位来源。一个 Key 多人共用,日志里只剩一堆匿名调用,排查成本会成倍上升。

第二件事是确认接口协议。目前绝大多数中转站都提供 OpenAI 兼容的接口,下游只要把 base_url 指向中转站域名、把 api_key 换成分配到的密钥,原有 SDK 基本无需改动。需要逐项确认的是路径覆盖范围:只支持对话补全,还是同时支持嵌入、图片、语音、重排序等;流式返回是否完整支持 SSE,流中途断开时是否给出明确结束信号。这些细节决定下游能不能整套迁移,而不是只迁一半、剩下一半继续直连。

Key 管理是最容易被低估的环节。比较稳妥的做法是给每个 Key 绑定三项约束:可用模型白名单、额度上限与有效期。模型白名单能防止下游误用高价模型导致账单失控;额度上限则相当于给每条业务线装了保险丝,超额自动熔断而不是无限透支。密钥本身要支持随时吊销和轮换,轮换时留出双 Key 并行的过渡期,避免正在跑的任务批量失败。这些能力最好在接入谈判阶段就问清楚,而不是等出事再补。

计费口径必须在接入前对齐到具体字段。按量计费听起来简单,但输入与输出 token 是否分开计价、缓存命中的部分如何折算、失败重试消耗的 token 算谁头上、流式响应中断后已生成的部分是否计费,每一项都会影响最终账单。规范的做法是要求上游提供按 Key、按模型、按天的明细用量,并对每条记录附带请求 ID,方便两边对账时逐条核对,而不是拿一个总数互相质疑。

限流策略同样需要提前约定。中转站通常会在多个维度设阈值,常见的是每分钟请求数、每分钟 token 数与并发连接数。下游要问清楚触发限流时返回的状态码与响应体格式,是标准的 429 还是自定义结构,以及是否带 Retry-After 头。客户端侧则应实现指数退避加随机抖动,并区分可重试与不可重试错误,避免在限流期间盲目重放,把上游打得更紧张。

多模型路由是间连合作里最有价值的部分。同一份业务代码,可能白天走主力模型、夜间走低价模型,或者主力模型超时时自动降级到备用模型。接入时要确认上游是否支持模型别名映射,即下游调用某个自定义名称、由上游路由到具体模型,这样后续换模型不必改代码。降级链路必须实测,包括超时阈值、切换后的返回格式是否一致、降级期间的计费按哪个模型计。

对账与监控要跟着接入一起上线。建议下游在自己侧记录每次调用的 Key、模型、耗时、token 数与错误码,并与上游账单做日级比对。差异通常集中在几个地方:重试导致的重复计费、流式中断的尾差、缓存命中折算方式、以及跨零点请求归属哪一天。把这些口径提前写成文档,双方按同一份文档对账,比每次临时沟通高效得多,也更容易在出现分歧时快速定位。

正式放量前留出一段灰度期。新用户一般可以先拿小额测试金跑通链路,例如快米兔在模型 API 中转上注册即送 5 元测试金,按量计费、不设门槛,适合先用真实流量验证协议兼容性与计费口径,再决定是否整体迁移。灰度阶段建议按小比例、中比例分批切流量,每批观察一天的错误率与延迟变化,确认无异常再继续放大,整个过程控制在两周以内比较合适。

上线后常见的坑集中在几处。一是把测试 Key 带进生产环境,二是模型白名单放得太宽导致误调用,三是客户端没有设置超时,长请求堆积把连接池占满,四是把上游返回的错误码当成业务异常处理,掩盖了真实的限流或额度不足。这些问题都不难防,前提是在接入清单里逐项打勾确认,而不是靠上线之后慢慢踩坑再补。

对于多数中小团队来说,间连接入的核心诉求其实很朴素:接口别改、账单别糊、出问题能找到人。从这个角度看,选择上游时不只看模型清单长短,更要看它是否提供清晰的子 Key 与额度体系、是否给出可逐条核对的用量明细、限流与错误码是否规范。快米兔在模型 API 中转上走的是注册送 5 元测试金、按量计费的路子,接入成本相对低,适合先小规模验证再逐步放量,具体能力与资费以官方说明为准。