在一条简短指令上，GPT-4o 有 91% 的时候答对。而在同一项任务的更长版本上，它只有 1% 的时候答对。不是 70%。不是 40%。是百分之一——统计噪声 (PNAS Nexus, 2026)。
这次崩溃，是运营负责人（Head of Operations）在 2026 年做出智能体式 AI 决策时可以携带的最重要的单一数字，因为它推翻了每一次部署都在悄然依赖的假设：如果一个 AI 智能体在演示中把某项任务处理得很好，那么它处理该任务稍难一点的版本时也只会稍差一点。并非如此。它会近乎完美地处理，直到某个阈值，然后几乎完全失败。对运营而言，问题不在于是否信任一个智能体，而在于准确知道悬崖在哪里——并在其正前方设置一个让人类留在回路中的控制关卡。
研究发现：是悬崖，不是斜坡
该研究来自 CUNY 的 Suketu Patel 与 Jin Fan，发表于 PNAS Nexus，并于 2026 年 6 月公开 (PsyPost, 2026)。他们的方法之所以优雅，恰恰因为它古老。他们把 Stroop 任务——那项经典的认知心理学测验，要求你说出一个词的墨水颜色，而这个词本身却拼写出另一种颜色——施加到前沿语言模型上，并通过把冲突项列表从几项加长到四十项来提升负荷。
结果触目惊心。在五项的短列表上，GPT-4o 对不一致试次的答对率为 91%。把列表推到二十或四十个冲突项，其准确率便跌至 1%。Claude 3.5 Sonnet 撑得更久——但它最终也垮了，在四十项列表上降至约 10% (PNAS Nexus, 2026)。
请读这条曲线的形状，而不只是两端。随着任务变难，性能并没有平缓地退化。它维持在近乎人类的水平，然后从悬崖坠落。正是这一发现，应当重组运营对智能体可靠性的思考方式：危险区从演示中根本看不见。在简单案例上跑一次干净的试点，无法告诉你模型会在哪里崩坏，因为崩坏是不连续的。
为何这是执行控制的失败——而非智能的失败
把这件事归入"AI 还是会犯错"然后翻篇，很容易。这种解读错过了机制，而机制正是全部要害。
Stroop 任务衡量的不是知识或推理马力。它衡量的是执行控制——具体而言，是把一个目标记在心中（"说出墨水颜色"）并抑制一个更强的、自动化的竞争反应（"读出这个词"）的能力。在人类认知神经科学中，注意力可分解为不同的系统，而执行控制正是掌管在冲突下维持目标的那一个。它与单纯的模式识别是不同的官能。
以下是这些模型对自身的揭示。Transformer 架构在优势反应上非凡出众——那种快速、自动、统计上最可能的答案，正是"读词而非命名颜色"的机器等价物。它们所缺的，是当上下文变长或充满冲突信号时的稳健抑制。作者将其框定为：真正的通用智能所需的执行控制能力，在此是缺席的 (PNAS Nexus, 2026)。
对运营而言，可以这样翻译：AI 智能体不是一个随工作量成比例地疲惫、变得马虎的初级员工。它是一个把单一目标维持得极好的系统，直到竞争性约束的数量越过一条线——在那一点，目标维持不是退化，而是蒸发。失败不是"输出更差"，而是模型悄然朝着错误的、更容易的目标优化，同时产出流畅、自信、看上去与成功一模一样的文本。
"又长又矛盾"在你的现场是什么样子
实验室里二十个冲突词是抽象的。你真实的工作流更糟。
想想你实际交给智能体的是什么。把一张发票与一份合同核对，而这份合同有三处修订、一条特别条款，还有上周某人邮件发来的一个例外。按一条政策为客户投诉分派处理，而某位经理的长期指示又说了另一套，还有一个促销活动在周五前把两者都覆盖掉。起草一份合规回复，它必须同时让监管方、法务团队的风险立场以及客户经理的关系都满意——三个并不完全对齐的目标。
其中每一个都是把音量开到最大的 Stroop 任务。长上下文、多重同时约束，以及一个强势的"显而易见"答案，而一旦计入例外它就是错的。这些正是研究所显示的、会把执行控制推下悬崖的条件。而它们也恰恰是中型市场运营最急于自动化的任务，因为它们是那些乏味、判断密集、吞噬团队工时的活儿。
这就是陷阱。自动化吸引力最高的任务，与最可能触发无声崩溃的任务大量重叠。智能体会在干净的发票上做出无懈可击的演示，却在那张有三处修订的发票上几乎完全失败——而且它会自信地失败，这才是危险之处。
无视悬崖的业务代价
这不是理论上的忧虑，而市场已在为其定价。Gartner 预测，到 2027 年底，超过 40% 的智能体式 AI 项目将被取消，理由是成本攀升、业务价值不清以及风险管控不足 (Gartner, 2025)。
Stroop 的发现告诉你为什么会有这么多项目失败。团队在一块经过挑选、低冲突的工作切片上试点智能体，看到 91% 那种量级的准确率，然后把它扩展到混乱、高冲突的生产现实中——在那里，同一个智能体运行在其崩溃点之外，在最难的案例上悄然产出 1% 质量的结果。随之而来的成本不会被贴上"AI 失败"的标签。它们会以下游三步之外才被抓到的核对错误、需要人工彻底返工的合规回复，以及最终把整个项目束之高阁的信任侵蚀等形式出现。项目不是死于一次戏剧性事故，而是死于恰恰在本应证明其价值的那些案例上累积的无声失败。
那些把智能体项目挡在这 40% 之外的组织，靠的不会是更好的模型。人人都能用上同样的前沿模型。靠的是那些为悬崖而设计、而非假装曲线是一道平滑斜坡的组织。
关卡该设在哪里
当智能体表现不佳时，本能是伸手去要更好的提示词。这项研究说，提示是错误的杠杆。你无法用提示走出执行控制的结构性缺失；你只能把悬崖稍稍挪动。持久的杠杆是架构性的：一个让人类留在回路中的控制关卡（human-in-the-loop），设在崩溃点之前，而非事故之后。
具体而言，这意味着本季度的三个动作。
1. 按冲突负荷绘制工作流，而非按任务类型
别再把候选任务分成"简单"和"复杂"。按它们承载多少竞争性约束、以及相关上下文有多长来排序。一项规则清晰的高频任务，是安全的自动化目标。一项量较低、却叠着三条重叠政策和一摞例外的任务，才是悬崖所在——无论它感觉多么例行。
2. 凭经验把关卡设在阈值之前
对任何带有冲突约束或长上下文的智能体工作流，插入一个强制的人工复核点。别去猜模型在哪里崩坏——像该研究那样测试它。给智能体喂入某项真实任务逐步变乱的版本，观察那个不连续点。把人工检查点设在它的近侧。
3. 为无声失败布设仪表，而非为喧闹的错误
崩溃不会自报家门；输出依旧流畅。因此你不能指望智能体标记出自己低置信度的案例。在任何高冲突工作流中内置抽样与抽查审计，并把"演示成功了"视为验证的开始，而非终点。
这一切都不需要新技术。它需要把智能体可靠性当作工作流设计的属性，而非模型的属性——并接受这样一个事实：模型的胜任力有一道边界，你能找到它，却无法用提示绕过它。
本季度的决断
调出你的团队计划在未来两个季度交给 AI 智能体的流程清单。在每一项旁边，写下两件事：它承载多少条冲突的规则或例外，以及智能体需要维持的上下文有多长。在两项上都得分很高的任务，不是你的速胜项。它们是你的悬崖案例——而研究说，它们会通过试点，却在真实工作中失败。
对这些，招法不是一个更好的智能体，而是一个被刻意设在崩溃点之前的、留在回路中的人类（human-in-the-loop）。那 40% 走向取消的智能体项目，大多会是把演示误当成保证的那些。一个在干净案例上过关、却在混乱案例上崩溃的智能体，不是你部署的工具。它是你尚未发现的一项负债。在悬崖找到你之前，先去把它找出来。
