Richard Teachout // Teachout.com
← 全部文章

没人谈论的 Token 上限

Richard Teachout
Richard Teachout Ashley Furniture Industries 首席技术官 —— 高管级技术领导者、创业者、AI 领导者、架构师、问题解决者、前开发者。 July 24, 2026
AI 治理
没人谈论的 Token 上限

每个 AI 模型都有一个上下文窗口。

这是一条硬性上限。模型在任一时刻能够主动推理的 token——单词、符号、概念和关系——数量是有限的。停留在这个窗口之内,模型快速、准确,而且出奇地智能。越出这个窗口,性能就开始退化:它会忘记先前的信息、丢失上下文、做出奇怪的假设,或者干脆放弃。

这不是 bug,这是物理规律。

上下文窗口越大,模型在开始吃力之前能应对的复杂性就越高。

有趣的是……没人告诉你,经营一家企业的工作方式几乎如出一辙。人也有上下文窗口。

我们不用 token 来衡量自己的窗口,而是用会议、决策、打断、Slack 消息、电子邮件、生产事故、人际问题、预算评审、项目更新,以及当有人问「嘿,你有五分钟吗?」时我们正努力记着的二十三场对话来衡量。

(说句公道话,从来没有人真的只是五分钟。)

然而与 AI 不同,我们没有一个仪表盘来告诉我们,自己已经处在 98% 的使用率。

我们只是察觉到,同一封邮件自己重读了三遍;走进一个房间却忘了来干什么;盯着 Jira 看板,想不起自己本该在做什么;打开 Teams 去回复一条消息,结果不知怎么就陷进了四场跟最初问题毫不相干的对话。

到了下午两点,我们在精神上已经精疲力竭。

不是因为做了体力活。

而是因为我们的 token 已经耗尽了。

我的正式头衔是 CTO……

……但我的副标题是「活在混乱中」。

说真的,我也许该把这句话印在名片上。

如果你曾和我共事过,大概已经见过这一幕。

前一分钟我还在讨论企业架构,下一分钟就在谈网络,然后是网络安全,然后是供应链,然后是预算,然后是 AI。接着有人走进来问,7 号楼的那台打印机为什么坏了。

五分钟后,我在审查 Kubernetes 部署,同时回答着关于制造系统的问题,还努力回想自己是否已经批准了那笔资本支出申请。

这是可控的混乱……大多数时候如此。

现实是,高管们——尤其是技术领导者——都成了职业的上下文切换者。我们的工作是从各个方向吸收复杂性,而不让组织感受到它。

从本质上说,我们在为其他所有人充当一个巨大的上下文缓冲区。

而这正是危险开始的地方。

Token Maxxing:超能力……也是陷阱

多年来,我注意到一种模式——不仅在我自己身上,也在软件架构师、创始人、工程师,以及几乎所有我敬重的技术高管身上。这种现象在那些大脑构造略有不同的人身上似乎格外常见。到底是 ADHD、过度专注,还是仅仅是多年训练自己去解决不可能问题的结果,我不知道。但这种模式确凿无疑,我开始称之为 Token Maxxing。

当条件合适时——一个难题、有意义的工作、高风险,再加上一个截止日期——我们的大脑会变得出奇地高效。信息流动得更快,模式几乎瞬间浮现,几分钟前还看似毫无关联的系统之间出现了联系。搁置了数周的问题突然变得一目了然,因为你不再看到十个独立的问题,而是看到了把它们全部串联起来的那一个根本原因。在别人眼里令人望而生畏的事情,开始变得几乎……有趣。

这是我最喜欢进入的状态之一。时间在不知不觉中流逝,吃饭变得可有可无,睡眠变得可以商量。有人问几点了,而你真的惊讶于外面天已经黑了。从外面看,这像是一种超能力。人们纳闷你怎么能在午饭前完成三天的工作量,并认定你只是更聪明,或以某种方式在更高的层次上运转。

实际上,通常并非如此。你只是正以惊人的速度消耗 token。你的大脑正满负荷运转,每一秒都在处理海量的上下文。这感觉棒极了——但每个系统都有自己的极限,账单终归会到期。

崩溃

然后它就发生了。

而且不是逐渐发生的,几乎是一瞬间。

你盯了六个小时的 code 突然变得不知所云。三十分钟前还觉得显而易见的决策,现在需要费劲才能做出。同一封邮件你重读了好几遍。有人问你一个简单的问题,你的大脑非但没有立刻给出答案,反而回应道:「我什么都不剩了。」

你没有变得不那么聪明,也没有失去动力,当然更没有不再在乎这份工作。你只是超出了自己的认知上下文窗口。

就像被推到 token 上限之外的 LLM 一样,你的大脑开始丢弃信息以保护自己。细节悄然溜走,建立联系变得更加困难,耐心越来越短——不是因为人们问的是糟糕的问题,而是因为每一个新问题都需要往一个已经塞满的系统里再加载一组 token。

多年来,我一直在和它对抗。我会更用力地盯着屏幕,坚信再坚持十五分钟就能解决问题。但几乎从来没有。事实上,我坐在那里强行硬撑的时间越长,我的思考就变得越糟。

现在,我学会了一个出奇有效的方法。

开启一个新的会话。

不是在你的电脑上。

而是在你的大脑里。

站起来,走到外面,买杯咖啡,和谁聊聊与你要解决的问题无关的任何事。绕着大楼走一圈,摸摸狗,花十分钟看看鸟儿做鸟儿该做的事。给你的大脑许可,让它卸下上下文窗口,而不是试图再挤进一个 token。

令人惊叹的是,答案往往五分钟后就会自己浮现。

我们都经历过:为一个问题苦苦挣扎数小时,沮丧地走开,结果走到半路,答案就凭空出现了。这个答案并不是在散步中魔法般产生的,而是你的大脑终于有了足够的空闲容量,能够看见它。

多年来,我逐渐相信,倦怠通常不是由努力工作引起的,而是由长时间背负太多未解决的上下文引起的。

这两者之间有着重要的区别。

努力工作让人疲惫,但当你在取得进展时,它也能带来能量。而背负几十个未解决的问题、在二十个优先级之间来回切换、还要努力记住每一个悬而未决的决策,则是完全不同的另一回事。那种无形的认知负荷会慢慢侵蚀你清晰思考的能力。

领导力就是 Token 管理

这一认识彻底改变了我对领导力的看法。

作为 CTO,我的工作不只是做技术决策,而是减少整个组织中不必要的认知负荷。每一个含糊不清的优先级、每一场不必要的会议、每一个归属模糊的流程、每一个被反复重新审视的决策,都在消耗本可以用来解决真实业务问题的脑力带宽。

我合作过的最优秀领导者似乎都本能地明白这一点。他们在制造紧迫感之前先制造清晰,在优化之前先简化,在要求人们更卖力之前先消除摩擦。

这就是为什么文档很重要、为什么清晰的归属很重要、为什么好的架构很重要。这些东西不只是运营上的改进——它们是还给人们脑力容量的方式。你每消除一个模糊之处,你的团队就能多出几个 token,用在创造力、解决问题和创新上,而不是用在努力回忆谁该负责什么上。

我开始用这个视角来看待组织。有些公司不断要求人们扩大自己的上下文窗口,指望他们同时应付更多的会议、更多的打断、更多的项目和更多的优先级,却不去改变围绕他们的系统。最终,每个人都开始做决策更慢,质量下滑,而组织却把认知过载误当成了绩效问题。

最健康的组织恰恰相反。它们减少不必要的复杂性,自动化重复性的决策,消除噪音,创造出让人们能够专注于有意义工作、而不是不断重新加载上下文的系统。

讽刺的是,这些组织往往看起来更从容,却完成了更多。

也许这才是从 AI 身上学到的真正一课。

性能不仅仅取决于模型有多聪明,还取决于它能有效管理多少上下文。对人来说也是如此。

目标不应该是往我们的大脑里塞进更多 token,而应该是设计出从一开始就浪费更少 token 的组织。

因为当人们把更少的精力花在「在复杂性中求生」上时,他们就有更多精力去解决那些真正重要的问题。

觉得这套论述适合你的活动吗?跟我说说那个场合—— 日程是有选择的.

开始对话
English简体中文Tiếng Việt