内部 AI 平台的 80/20
内部 AI 平台是 AI 预算走向死亡的地方。每家公司都在建一个，而其中大多数都建错了部分。
这种模式我见得够多，足以给它命名：平台团队建的是光鲜的基础设施——模型网关、编排框架、提示词游乐场、花哨的界面——而业务团队依旧什么都做不成。平台有一百个功能却零采用，因为这些功能是平台团队想要的，而不是业务真正需要的。
解决办法是一场冷酷的优先级取舍。在平台能做的所有事情里，真正重要的只有四件，其余都是装饰。
值得建设的四件事
第一：评估。这是不可妥协的一环，也是平台团队最常跳过的一环，因为它不够光鲜。一个测试集、一个基线、一个回归检查——回答“这个新模型比我们现有的更好还是更差？”的能力。评估是 AI 的审计层，它决定了你是满怀信心地升级模型，还是靠信仰升级模型。每个模型都在变，每个提示词都在变，没有评估工具，你就是在盲目飞行。先建这个。它是其他一切赖以立足的地基。
第二：路由。就是上一篇文章里的模型分层——把常规工作发给便宜模型、把难题发给前沿模型的规则。这是成本控制层，同时也是可靠性层，因为路由正是你在主模型退化时加入备用模型的方式。一个没有路由的平台，就是凡事都付头等舱票价、且主模型打嗝时毫无预案的平台。
第三：可观测性。你看不见的东西就无法运营。每个请求都需要一条轨迹：哪个模型、什么输入、什么输出、什么置信度、什么延迟、之后发生了什么。这一层让事故变得可解释，把“AI 做了件奇怪的事”变成“模型 X、提示词 Y、置信度 Z，这是要修的地方”。没有它，每个 AI 问题都是一个谜团，而每个谜团都会被归咎于 AI。
第四：升级。也就是人工审核路径——那些重要的产出在到达客户之前，先经过一个人。这一层让高风险的 AI 变得安全，而它也几乎总是被放在最后才建，往往是在一场证明了它必要性的、事故之后才建。
一个平台就是四件事：评估、路由、可观测性和升级。其他一切都是功能。这四件才是平台。
相反该买什么
其他一切——编排框架、提示词工具、模型网关、向量数据库、游乐场——都买现成的。这个市场已经成熟，产品也好，购买成本只是维护自研版本的零头。
在平台层面，“自建还是购买”的检验标准和其他地方一样：这是否是差异化优势，它是否触及我们的数据和判断力？评估触及你的数据和判断力——它编码了你对“质量”的定义。路由触及你的成本和风险承受度。可观测性触及你的运营。升级触及你的客户。这四件是你的。模型网关是商品，编排框架是商品，向量存储也是商品。让供应商去拥有它们吧。
平台团队犯的错误就是把这两者颠倒——因为商品部分好玩就自建，因为差异化部分难就购买。网关是个能在演示中大放异彩的周末项目。评估工具则是数月枯燥、没人愿意演示的工作。猜猜最终被建出来的是哪一个。
采用度检验
检验你的平台对不对的标准是：一个业务团队能否在没有平台工程师在场的情况下，用它交付点什么？
如果答案是否定的，那无论平台有多完整，它都已经失败了。平台的工作不是让人惊艳，而是把“从想法到可用的 AI 功能”这条路缩得足够短，短到团队真的愿意走上去。这四层串接起来，让一个团队丢进一个任务、指向数据、设定审核级别、然后就能跑起来——这才是平台。其他一切都是找不到用户的基础设施。
真正在生产环境使用 AI 的团队，不是那些拥有最惊艳平台的团队，而是那些平台能可靠地做好四件枯燥事情的团队：评估、路由、观测和升级。演示在别处，而它们无关紧要。
80/20 的价值在哪里兑现
一个内部 AI 平台 80% 的价值，来自 20% 的工作——那四层，枯燥却做到位。另外 80% 的工作，那些光鲜的基础设施，产出的是演示和宕机。
自建这四样，买下其余的。而当下一个平台提案落到你桌上、附着一张满是网关和框架的路线图时，问问评估工具在哪。如果它不在路线图上，那这份提案就不是一个平台，而是一项带着预算的业余爱好。