Reading Your AI Bill Before It Reads You
第一张 AI 账单是一个意外。第二张是一个问题。第三张是和财务开一次会。
这个模式到处都是。团队构建 AI 功能,从演示里估算成本,然后上线。演示用了五个请求。生产用了五千个。演示的提示词很短。生产的提示词带着整个上下文。演示跑了一个下午。生产跑了一个月。账单到了,而且不是任何人预算过的那张。
AI 账单和云账单有一个重要的区别:成本附着在工作上,而工作附着在设计上。每一个提示词、每一段上下文、每一次重试、每一次模型调用,都是带着你指纹的一个明细项。账单不是谜团。它是一面镜子。学会读它,就是「运营 AI」和「被 AI 运营」之间的区别。
一个请求的单位经济学
AI 账单是从单位构建起来的:一个请求的成本。而一个请求的成本,是由你控制的东西构建的。
模型选择是最大的杠杆。前沿模型每个 token 的成本比小模型高——有时高十倍。之前的层级纪律在这里同样适用:小模型完全能处理的请求,就是付头等舱票价的请求。账单就是那个决策显现的地方。
上下文长度是隐藏的杠杆。每个请求都带着上下文——系统提示词、历史、文档、对话。上下文在每次请求时都被计费,即使它没有变化。带着五千 token 上下文的请求,每一次调用都要付五千 token 的输入费,而不盯上下文大小的团队,就是在每一趟航班上为同样的行李付钱。
重试模式是安静的成本倍增器。失败时重试的集成、循环到满意为止的 agent、一个项目失败就重跑整批的流水线——每一次重试都是一个全价请求。一个每次请求看起来便宜的系统,如果重试被藏起来,按完成的任务算可能很贵。
单位是请求,而请求是一个决策:模型、上下文、重试。读懂单位,账单就不再是意外。
按任务算成本,而不是按请求
账单显示请求。业务关心任务。两者之间的差距,就是真正的经济学所在。
请求是原始单位。任务是完成的成果——解决的工单、处理的订单、生成的报告。一个任务可能花一个请求,也可能花十个,取决于设计。烧十个请求完成一个任务的 agent,并不比两个请求就搞定的工作流便宜。它只是在请求数里看起来更好看。
真正重要的指标,是每个已完成任务的成本,而这个数字应该和其他五个信号一起放在仪表盘上。按任务算成本是面向业务的数字——它回答「让这个 AI 干活,我们到底花了多少钱」。它也是那个能抓住请求数所掩盖的设计问题的数字:膨胀的上下文、重试风暴、对任务来说太贵的模型。
拦住意外的护栏
账单靠护栏来管理,而护栏和任何其他预算的护栏形状一样。
预算警报是第一步。一个月度支出的阈值,在运行速率越过它时发出警报。警报在账单之前响起,而不是之后。阈值不是上限——它是一个信号,说明支出行为偏离了计划,而偏离的行为本身就是信息。
按任务上限是第二步。一个按任务的最大成本,在设计层面强制执行。即将烧穿上限的任务会快速失败,而不是让计费表继续跑。上限是预算的技术版本——它在失控到达账单之前就拦住了它。
季度成本审查是第三步。和数据健康审查同样的节奏:按任务类型逐项过一遍按任务成本,找到单位成本漂移上升的任务,然后修根因。审查就是护栏被调优、教训被学到的地方——升级了一层的任务、膨胀的上下文、浮现出来的重试模式。
那个重新框定账单的问题
下一张 AI 账单来的时候,先问一个问题,再去反应:它买到了什么?
以合理按任务成本买到已完成任务的账单,是一张好账单,不管总额多少。买到了没有变成成果的请求的账单——重试、循环、死胡同——是一张坏账单,不管总额多少。总额是标题。每个已完成任务的成本才是真相。
AI 账单是可读的。模型选择、上下文大小、重试模式、按任务成本、以及抓住漂移的护栏。把单位经济学建进设计里,把按任务成本放到仪表盘上,账单就不再是每月的意外,而变成它真正该是的东西:你 AI 设计的成绩单。去读它、调它,账单就会做它该做的事——在财务之前,告诉你系统在哪里浪费钱。