先坏的是什么：模型还是工作流
Richard Teachout
Ashley Furniture Industries 首席技术官 —— 高管级技术领导者、创业者、AI 领导者、架构师、问题解决者、前开发者。
March 17, 2026
先坏的是什么：模型还是工作流
当 AI 系统在生产中失败时，人们的第一反应是去看模型：是数据不足吗？是提示词退化了吗？是分布发生了漂移吗？这些都是合理的问题，但它们往往错过了真正的故障点。
在大多数情况下，先坏的是工作流。
模型有着惊人的韧性。它们会逐渐退化，产生部分信号，即使在不完美的条件下，往往依然在方向上是有用的。相比之下，工作流是脆弱的：它们假定特定的输入、时机和置信度水平。当这些假定被打破时，整个系统都会感觉像坏了一样——即便模型其实表现还算不错。
这种错配造就了一种熟悉的模式：AI 在测试和演示中“好用”，但在真实环境中却举步维艰——不是因为模型变了，而是因为现实引入了工作流从未被设计去吸收的模糊性。
工作流往往会固化确定性：它们期望输出按时到达、格式特定、并且有明确的下一步。而 AI 引入了变异性：不确定性、概率性输出、以及偶尔拒绝作答。当工作流无法容纳这种变异性时，人类就被迫非正式地修补这些缺口。
这些补丁成了真正的系统。人工复核、Slack 消息、旁支电子表格和不成文的规则，都在为僵化的工作流打补丁。模型因为不一致而背了锅，而工作流却在悄无声息地吸收着伤害。
改进模型很少能解决这个问题。更高的准确率能减少可见的错误，却无法解决结构性的脆弱。下一个边缘情况只会出现在别的地方。
稳健的 AI 系统是围绕“预期不确定性”的工作流来构建的。它们包含暂停点、升级路径和回退行为，把 AI 输出当作判断的输入，而非终点。
这并非反对更好的模型，而是主张把工作流当作一等公民的基础设施来对待。问题不在于模型是否足够好，而在于：当模型偶尔出错时，工作流能否在不崩塌的前提下容忍这一点。
当事情坏掉时，值得一问的是：是模型失败了——还是工作流根本没有地方安放怀疑？