GPTs 调用外部 API 时,重试策略要怎么设置才不会重复扣费?

避免重复扣费的要点不在重试次数,而在让每次重试携带同一枚幂等键、由服务端按键去重,并且只对超时、429、5xx 这类结果未定的失败重试;已明确返回业务失败的 4xx 请求不重试,上游不支持幂等键的按次计费接口也不适用这套做法。

在 GPTs 里给 API 调用加重试,能不能避免重复扣费,取决于三件事是否同时成立:每次重试携带同一枚幂等键、你的服务端按键做去重、且只对超时、429、5xx 这类结果未定的失败重试;已经明确返回业务失败的 4xx 请求不重试,上游不支持幂等键的按次计费接口也不适用这套做法。 重复扣费在 GPTs 场景里有两条链路,必须分开处理:一条是 GPTs 通过 Actions 调你自己的后端,另一条是你的后端再去调模型或第三方计费接口。前者靠请求体里的业务幂等键控住,后者靠上游的幂等机制和用量回执控住,用同一套重试规则覆盖两段,通常两段都会漏。 GPTs 的 Actions 配置界面里没有面向调用方的重试次数与退避参数可填。Actions 由 OpenAPI schema 描述接口,平台负责发起调用,重试只能落在你自己的服务端或网关这一层,所以不要指望在 schema 里改一个字段就把重试行为固定下来,重试预算要写进后端代码和配置中心。 重试是否安全,先看这个接口是不是幂等的,读接口和写接口要分开设规则。查询类 GET 接口重复执行不改变结果,可以放心重试两到三次;下单、扣费、生成任务这类 POST 接口天生不幂等,必须带幂等键,否则一次超时重试就可能把一笔费用变成两笔。 幂等键最好由发起方在第一次请求时生成,并在后续重试中原样复用,而不是每次重试重新生成一枚。GPTs 场景下自定义请求头的可控性较弱,实务上更稳的做法是把幂等键放进请求体字段,例如 request_id 或 client_order_id,在 OpenAPI schema 里声明为必填,并在字段描述中写明同一笔业务必须复用同一个值。 真正兜底的是服务端的去重表,没有它,前端做得再规范也会被并发打穿。做法是以幂等键建唯一索引,记录处理状态、响应体、上游返回的用量信息和过期时间;命中处理中状态时返回冲突或让调用方轮询,命中成功状态时直接回放第一次的响应,不再向上游发起新请求。 只对结果未定的失败重试,是控制重复扣费最省力的一条规则。连接超时、连接重置、429、500、502、503、504 属于可能已执行也可能未执行的模糊态,可以进入重试流程;400、401、403、404、422 属于明确的业务或参数失败,重试只会重复消耗;收到 429 时应优先读取 Retry-After 并按它等待,而不是按固定间隔硬冲。 重试次数和退避间隔要卡在单次请求的总时间预算之内,否则平台侧先超时、你的重试还在跑,等于又发了一次。常见配置是最多两到三次,采用指数退避加随机抖动,例如 0.2 秒、0.8 秒、2 秒这一量级,并给总耗时留出余量以适配平台侧的单次请求超时上限,具体阈值以官方文档为准。 按 token 计费的模型接口,重试一次就是再计一次费,流式响应中途断开也会按已生成的 token 计量。这类调用要把用量回执和幂等键一起落库,只认第一次成功那笔的用量;流式传输中断后不要自动重发,交给用户确认或走显式的续写逻辑。 并发重试会放大问题,形成重试风暴,把一次局部超时变成对上游的集中冲击。客户端应配置令牌桶限流和熔断,失败率超过阈值时快速失败并停止重试,在上游返回 429 期间主动降低并发数,让恢复过程是渐进的而不是脉冲式的。 对账是最后一道防线,再严谨的重试逻辑也需要用账目反向验证。每次请求都记录自身请求号、幂等键、上游请求号、用量、耗时和重试序号,按日与账单或用量报表比对;如果同一个幂等键出现两条计费记录,问题基本都出在去重表没有覆盖处理中状态,或者并发写没有加锁。 这套策略有明确的适用边界:当上游本身不支持幂等键、也没有按请求号查询结果的能力时,重试就失去了安全前提。此时正确的做法是关闭自动重试,把失败直接暴露给用户,由人决定是否重新发起,用可控的人工确认换掉不可控的重复扣费。