扣子平台怎么切换不同模型供应商通道,工作流节点和已发布的智能体会同步生效吗?

扣子切换模型通道是分层的:智能体编排页改的是 Bot 主模型,工作流里每个大模型节点要单独改,第三方供应商需先在模型管理里添加自定义通道再回来选;发布渠道本身不携带模型配置,已发布的智能体必须重新发布才会按新通道运行。

扣子平台切换模型供应商通道分三个层级落地:Bot 编排页的模型下拉只改当前智能体的主模型,工作流里的大模型节点要逐个单独改,第三方供应商必须先在模型管理里添加自定义通道再回来选;已经发布到渠道的智能体不会自动跟随,必须重新发布才会按新通道运行。这条规则适用于专业版及已开通自定义模型能力的空间,只用平台预置模型的免费空间不存在第三方通道可切。 把三层级分清楚,是避免“改了没反应”的前提。Bot 级配置决定对话主链路用哪个模型,节点级配置决定工作流中某一步用哪个模型,两者互不覆盖。发布层只是把当前配置打包出去,它记录的是发布那一刻的模型指向,所以你在发布后调通道,线上表现不会变,直到下一次发布动作发生。 扣子国内版的预置通道由火山方舟提供豆包系列模型,这是平台默认值而非唯一值。默认通道的好处是免配置、与插件和知识库能力对齐度高;代价是模型选择范围受限,遇到特定语种、特定输出格式或成本敏感场景时弹性不足。判断是否需要切通道的标准很简单:预置模型在回归集上的完成率不达标,或者单次调用成本结构不适合业务量级。 添加自定义通道的入口在工作空间的模型管理里,需要填写通道名称、接口地址、密钥和模型标识,协议选兼容 OpenAI 接口规范的那一类。密钥是通道级而非智能体级,一个通道对应一组供应商凭据,改动会影响所有引用该通道的智能体,因此建议按业务线拆通道而不是按人拆。保存后先用一句最短的对话验证连通性,再去做能力测试,否则鉴权失败会被误判成模型能力问题。 能跑通普通对话不代表能跑通带工具的智能体,工具调用格式的兼容性是切换中最常见的隐性失败点。插件调用要求模型按约定结构返回函数名与参数,部分通道在纯文本对话上表现正常,一挂插件就返回自由文本或参数缺失。切换前应准备三个测试用例:单轮问答、带一个插件的多轮任务、需要结构化输出的抽取任务,三项都过再谈上线。 切换顺序上,先在工作流单个节点做灰度,再把 Bot 主模型整体切过去,是风险最低的做法。工作流节点的影响面是局部的,出问题只影响某一步,回滚成本低;主模型影响全局提示词、开场白、追问策略和所有插件调度,改动等同于把智能体的“大脑”换掉。把节点灰度当成一次小规模验证,用真实流量跑够样本量再放大。 提示词必须跟着通道一起改,这是最容易被跳过的一步。不同模型对系统提示词长度、分隔符、角色设定和工具描述的敏感度差异明显,同一条提示词在 A 通道上稳定,在 B 通道上可能频繁越界或漏调工具。可行的做法是把提示词中的角色约束、输出格式、拒答规则拆成独立小节,切通道后逐节做小样本对比,把失效的那一节单独调整,而不是整篇重写。 限流与超时是自定义通道绕不开的运维参数,供应商侧的并发数、每分钟请求数、单次响应时长都由对方策略决定,平台侧只能设置等待上限。实践上要把平台超时留出比供应商平均响应更宽的余量,并保留默认预置通道作为兜底路由:主通道连续失败时由工作流的分支逻辑切到备用通道,保证接待不中断。这条兜底对客服类智能体尤其重要,一次静默超时在用户侧就是一次无人应答。 计费结构必须分开算,否则成本判断会失真。走平台预置模型时,消耗按平台的资源点口径结算;走自定义通道时,费用由供应商侧按其计费方式收取,平台承担的是调用转发与编排。两条账混在一起算,会得出“切换后更贵”或“切换后更便宜”的错误结论。正确做法是按每千次会话的实际 token 消耗,分别乘以两侧单价做横向比较,再叠加通道失败重试带来的额外消耗。 知识库与插件和模型通道是解耦的,但召回之后的理解与改写质量会随通道变化。切通道不会动知识库的分片、向量和召回参数,召回的原文片段依然一样,差别在于模型对片段的筛选、归纳和引用是否准确。因此客服类智能体切通道后,要专门用人造问答对测一轮“答案是否来自知识库、是否引用了错误分片”,这比测通用问答更能暴露问题。 不是所有模型都适合接进扣子,协议不兼容的通道加了也用不起来。最低要求是支持标准对话补全接口与流式返回,涉及插件和自动化的场景还要支持工具调用结构;不支持这两项的通道只能用于纯文本生成类节点,不能承担接待主链路。另外国内版与海外版的预置通道清单并不一致,跨版本照搬配置会直接失败,迁移时要按目标版本重新核对可选项。 判断一次切换是否成功,标准是回归集的通过率,而不是某几句对话的观感。建议维护一套覆盖高频意图、边界问法、拒答场景和工具调用的小型回归集,每次换通道都跑一遍,记录通过率、平均响应时长和单次会话消耗三项。三项都优于或持平原通道,才值得把线上的智能体真正迁过去;只在一两项上变好,更适合留在节点级使用而不动主模型。 对客服接待这类长周期运行的智能体,还有一个常被忽略的细节:会话上下文长度会随通道变化。上下文窗口更小的通道在长会话后段容易丢失早期信息,表现为重复追问已经答过的内容。处理方式是压缩历史摘要的触发阈值随通道调整,把摘要节点前置,而不是等用户抱怨“刚说过又忘”。 把上述环节连起来看,切换模型供应商通道本质上是一次带回归验证的配置迁移,动作只有几步,判断依据却来自能力对齐、提示词适配、限流兜底和成本核算四个方面。任何一面没验证就全量切换,出问题的概率远高于收益。反过来说,把这四项做成标准流程,通道就不再是绑定关系,而是可以按场景灵活替换的组件。