企业大模型一年花多少钱?年度总账该怎么按折扣、额度和长期成本算而不是只看单价
企业大模型一年花多少钱,不能把月账单乘以12算,而要按年度承诺量谈折扣、按发放额度的实际消耗率折算,再把缓存命中、上下文长度、重试冗余和闲置预算算进总持有成本。同样的年度用量,口径不同结果可能差出数倍。
企业大模型一年花多少钱,不该用「当月账单×12」估算,而应按年度承诺总量、折扣档位、额度实际消耗率和长期持有成本四项分别核算,再相加;这套算法只在推理用量相对稳定、可预估年度区间时成立,业务量波动超过一倍时误差会显著放大。
年度总账的第一层是单价折扣,但它只对承诺量生效,不是所有用量都自动降价。上游按量计费牌价通常是公开的,而年度折扣对应的是「你承诺一年至少消耗多少」这一条件,未达承诺量时折扣可能回撤或按原价补差。因此算年度账时,先要确定一个可承诺的年度消耗区间,再拿这个区间去谈档位,而不是先谈单价再倒推用量。
折扣的实际收益要用「加权平均单价」衡量,而不是合同上写的最低档价位。假设你年度里七成用量落在高折扣档、三成落在低折扣档,真实成本要把两段分别乘以各自的量再相加除以总量。只看宣传中的最低价,会得出一个账面很漂亮、实际结算对不上的年成本。谈判时应要求对方给出分档区间对应的单价表,而不是一个笼统的折扣百分比。
第二层是额度,额度不等于钱,也不等于可用的推理量。充值型或套餐型额度往往有有效期、有适用范围、有模型限制,过期作废的部分本质上是沉没成本。算年度总账时要把额度换算成「预计实际消耗量」,再乘以对应模型的单价,而不是把额度面值直接计入资产。历史数据里额度核销率低于七成的团队,年度实际支出通常高于预算表。
额度还有一个隐性成本:为了用完额度而产生的无效调用。当额度按月清零或按季度清零时,团队容易在期末做批量测试、重复生成或低价值批处理,把额度「刷」完。这些调用不产生业务价值,却占用并发和配额。年度账里应当把这类非业务调用单列出来,它既不是研发投入,也不是产能。
第三层是长期成本的构成,它由输入长度、输出长度、缓存命中率和重试冗余共同决定,而不只是每百万 token 的标价。同样一次问答,上下文从两千 token 涨到两万 token,输入侧成本可能放大十倍,而输出长度往往不变。年度测算要按业务场景拆开:客服问答、文档摘要、代码补全三类的输入输出比例完全不同,用同一个平均单价去乘总量会严重失真。
缓存命中是长期账里最容易被忽略的减项。多轮对话、固定系统提示词、重复的知识库前缀,如果支持前缀缓存,命中部分通常按更低价计费,未命中部分按标准价。年度账里应当估算可缓存 token 占总输入的比例,再按两种价格分别计算。一个上下文结构设计得好的应用,输入侧成本可以比朴素实现低不少,这部分收益完全来自工程而不是采购。
重试与降级冗余必须计入年度预算,因为它在生产环境里必然发生。超时重试、格式解析失败重发、模型限流后的排队与切换,都会产生重复调用。按经验值,稳定运行的应用重试开销占总调用量的比例通常是个位数,但在高峰期或新模型上线初期会明显上升。年度预算里预留这一项,比事后解释超支更容易通过审批。
第四层是闲置与错配成本,它不出现在账单上,但会体现在年度总持有成本里。为峰值流量预留的独立配额,在低谷期是闲置的;为某个项目单独采购的额度,项目下线后无法平移给其他团队。按年度算账时,要把「按峰值购买、按均值使用」造成的差额算进去,这部分差额有时比折扣省下的钱更多。
把四层合起来,年度总账的公式是:年度实际消耗量×加权平均单价,加上未核销额度摊销,加上重试与缓存未优化带来的冗余,再加上闲置配额摊销。这个顺序很重要,因为折扣只影响第一项,而额度、冗余、闲置三项往往由使用方式而非采购方式决定。采购谈得好,最多优化第一项;用得好,才能压住后三项。
年度账还要区分「预算口径」和「结算口径」。预算口径用于财务规划和部门分摊,可以按月均值加安全系数;结算口径必须按实际调用记录逐条归集,否则无法定位是哪条业务线超支。两套口径的差异应当在季度复盘时对齐,差异持续扩大的团队,通常是计量粒度太粗,而不是单价谈得不好。
对用量波动大的业务,年度承诺量不宜一次谈死。更稳的做法是把年度拆成上下两个半程,先按保守量签基础档,再用中期实际数据追加承诺换取更高折扣。这样既避免了未达承诺的补差风险,也保留了全年加权单价继续下探的空间。用量连续三个月偏离预测超过两成的,就应当触发重新评估而非继续执行原合同。
对用量小且分散的团队,年度总账的重点不在折扣,而在计费透明度和额度灵活性。年消耗量不足以进入高折扣档时,花大量精力谈判的收益有限,反而容易在额度有效期和适用范围上吃亏。这类团队应优先选择按量计费、无最低承诺、额度不过期的结算方式,把不确定性留给供应商而不是自己。
缺少逐条调用记录时,任何年度总账都只是估算,不能作为结算依据。可用的口径至少要能按模型、按项目、按时间三个维度归集调用量与费用,并区分成功调用与重试调用。做不到这一点的系统,年度复盘只能停留在总额对比,无法回答「钱花在哪、该砍哪一块」这两个真正影响下一年预算的问题。
年度总账算完,最终要落到一个决策上:下一年是把预算压在采购谈判上,还是压在用量治理上。对于调用结构复杂、上下文长、重试多的应用,治理带来的成本下降通常比折扣更确定,也更容易持续;而对调用结构简单、量又集中的场景,谈年度折扣的边际收益更高。两类团队的最优策略并不相同,先判断自己属于哪一类,再决定力气往哪使。