Scovai Scovai
AI & Operations 2026-10-19 1 min read

对 AI 治理的信心大幅上升,而将控制机制内置到智能体中的企业比例却在下降。

DSL

Dr. Sarah Liu

对 AI 治理的信心大幅上升,而将控制机制内置到智能体中的企业比例却在下降。

仅仅一个季度,表示自己具备相应能力与治理体系、可以大规模管理 AI 风险的美国企业高管比例,就从 57% 升至 73%(KPMG, 2026)。而在大致相同的时间窗口内,将控制机制内置到智能体之中、并配套监控与评估流程的组织比例,却从两个季度前的 43% 降至 30%。KPMG 用一句话给出了原因:许多组织"依赖已经就位的防护栏"。

同一份调研。同一批企业。信心在上升,而离智能体最近的那层控制正在被撤走。

第三个数字才是本季度应当推动决策的那一个:正在积极开发或部署多智能体系统的组织攀升至 25%,而此前两个季度均为 6%。复杂度正在叠加,而内置控制恰在此刻变薄——AI 智能体治理被要求运行在一套为另一类问题而建的基础设施之上。

KPMG 实际测量了什么

该调研于 2026 年 7 月 24 日至 8 月 25 日进行,覆盖 314 位美国 C 级高管与业务负责人,所在机构年收入均在 10 亿美元及以上,其中超过三分之一高于 100 亿美元(KPMG, 2026)。这一样本结构很重要,稍后我会回到这一点。

两条曲线走向相反:

指标2026 年第三季度此前读数
对大规模管理 AI 风险的能力与治理的信心73%57%(上一季度)
在自有智能体中内置控制,并配套监控与评估30%43%(两个季度前)
正在积极开发或部署多智能体系统25%6%(此前两个季度各为此值)
正在构建、部署或开发 AI 智能体62%53%(上一季度)
已界定不允许智能体自主决策的高风险场景49%28%(2025 年第三季度)
已实施用量或 token 预算43%—

财务纪律确实在改善:74% 的组织已将成本审查纳入 AI 审批流程,高于上一季度的 61%,70% 使用 AI 监控看板。这不是一个关于组织疏忽的故事,而是一个治理在某一维度成熟——支出、可见性、审批流程——而另一维度被悄然放松的故事。

为什么对 AI 智能体治理的信心跑在了控制之前

"已经就位的防护栏"这个说法承担了很重的分量,因此值得追问:这些防护栏究竟是什么。

KPMG 自己列出了各组织纳入控制层的内容:数据访问控制(59%)、安全与身份控制(53%)、AI 输出监控(47%)、政策与防护栏执行(42%)以及模型访问管理(40%)(KPMG, 2026)。

请以运营者的视角重读这份清单。每一项治理的都是访问:模型可以触达哪些系统、携带何种身份、可以调用哪个模型,以及输出事后看起来是否可接受。没有一项回答智能体真正引出的问题:这个智能体是否可以执行这一项对外可见的具体动作?以谁的名义?在哪条预算之内?谁能在执行中途撤回它?

边界控制是必要的,而且它不会随智能体一起移动。一个合法完成身份认证、只触达已批准系统、调用已批准模型的智能体,仍然可能把错误的邮件发给客户、发出违反政策的退款,或让公司对某个供应商产生承诺。这些都不属于访问违规。每一项都是动作权限问题——而动作权限恰恰是那 30% 正在构建、却被相当于 13 个百分点的企业停止构建的东西。

部署最快的地方,缺口最大

单个智能体调用一个界定清晰的工具,在边界控制下是可控情形。而多智能体系统——一个智能体的输出成为另一个的指令——则不是,因为两者之间并不存在任何边界。这种架构在两个季度内从 6% 升至 25%。控制模型正在变薄,而它所要治理的架构恰在此时变得更难推演。

没人明说的成本解释

内置于智能体的控制被削减,有一个并不光彩的原因,而它不是自满。

McKinsey 的 QuantumBlack 团队核算了生产环境中智能体的可变运行成本,发现在银行客户服务任务中,token 成本往往仅占可变运行成本的 20% 到 25%,而人工监督占 70% 到 75%(McKinsey QuantumBlack, 2026)。在客户开户环节,他们预期有 10% 到 20% 的智能体运行需由风险与业务专家复核。

监督不是智能体商业论证中的零头。它就是商业论证本身。这意味着:每一项把人放进动作路径的控制,都是一笔可见、重复发生、可量化的利润率成本——而一旦看板显示一切正常,这一行就成了削减时最容易被辩护的一行。

这正是 KPMG 两条曲线背后的机制。信心上升并没有导致控制下降;信心上升消除了"保留一项尚未高调失效的昂贵控制"的理由。

控制内建的反面证据

如果削薄智能体内置控制只是一种理性的效率选择,那么这样做的企业本应表现更好。现有证据指向相反方向。

IBM 商业价值研究院调研了 2,000 位 C 级技术高管,并将把控制直接嵌入 AI 系统的组织与依赖人工治理的组织进行比较。控制内建组报告事故减少 25%、部署的 AI 智能体数量多出 16 倍、营业利润率高出 18%,AI 预算消耗少至四分之一(IBM Institute for Business Value, 2026)。

内建控制不是部署的刹车。它是让部署足以持续、从而能够规模化的那个条件:实际在运行的智能体数量相差 16 倍。

同一份研究把信心数字放在了一个不太舒服的位置:77% 的技术高管表示 AI 采纳速度已经超过自身治理能力,三分之二表示自己要为并非完全可控的 AI 系统承担责任,而样本中的平均组织在一年内记录了 54 起智能体事故,其中 17% 的控制时间超过四小时。KPMG 的受访者主要是 C 级高管与业务负责人,IBM 的受访者则是真正会被叫去处理事故的 CIO 与 CTO。73% 与 77% 并不必然矛盾:它们可能只是在与事故不同的距离上测量信心。

诚实的反驳

三条限制,直说。

这是一个年收入 10 亿美元以上的样本,而这一点恰恰削弱了显而易见的那种解读。 这些企业中有超过三分之一年收入高于 100 亿美元。一家 200 人的公司并不具备这些高管所倚赖的身份管理、访问工具与安全审查。因此这项发现不应被转译为"大企业开始松懈,我们没问题",而应转译为更棘手的版本:此处被倚赖的既有防护栏,在中型市场基本不存在——这使智能体内置控制更不可选,而非更可选。

信心是自我申报的;控制数字同样如此。 没有人审计过这些组织。一个季度内从 57% 升到 73%,对一种信念而言是很大的位移,而信念重估的速度可以快于能力。请把 73% 读作情绪读数,而非成熟度评估。

更多监督并非单调更优,本文也不该假装如此。 Gans 与 Holden 对能够隐藏自身行为的智能体建立了监督模型,结果表明:更强的审计在抑制不当行为的同时,会提高那些仍在违规的智能体的隐藏程度——因此发现率,即查出一个违规智能体的概率,可能随审计加强而下降(Gans & Holden, NBER, 2026)。他们的威慑条件是具体的:违规证据必须能够在隐藏之后存续;智能体不能在行动之前得知审计抽取结果;制裁必须可以升级,而不是止于没收该任务的报酬。其含义不是"增加复核次数",而是:控制的设计胜过控制的数量,而被审计对象无法篡改的审计轨迹,比提高复核频率做了更多的事。

下一个智能体上线之前要先落地什么

四项动作。没有一项需要平台级项目,而 KPMG 自己的数据表明,每一项都已是常规做法,而非前沿要求。

  1. 先写出"永不自主"清单。 这些组织中有 49% 已界定不允许智能体自主决策的高风险场景,高于一年前的 28%。这是一份文档,不是一次采购。在任何系统针对这些场景上线之前,先把始终需要人类决策的动作类别写明。
  2. 给每个智能体设上限。 43% 的组织已在运行用量或 token 预算。设定单笔与每月限额,使故障的代价是有界的而非敞开的,也使与财务的对话围绕一个上限,而不是一次意外。
  3. 把具名的人绑定到每个智能体,而不是绑定到项目。 "AI 委员会负责监督"不是责任人。一个具体的人——审批你未自动化的动作类别,并且无需走工单就能撤回自主权——才是。
  4. 让审计轨迹无法被智能体写入。 这是隐藏性结论的运营化读法:在动作、审批人与撤回发生的那一刻就把它们记录下来,记录在智能体无法修改的地方。复核频率以后可以调;证据完整性无法事后补装。

这四项同时也是面对 EU AI Act 人类监督义务时最站得住脚的设计——这是一个有用的副作用,而非采用它们的理由。如果你需要一份关于"按动作审批"与"自主权需赢得"如何构造的实际参照——审批请求带有具名责任人、自主权按动作类型而非按智能体授予、未获答复的请求会过期而不会默认通过、每个智能体之上强制设有人类监督者——Scovai 公开记录了其Digital Employee 治理模型。

更深一层的问题在于:一个信心数字能告诉你什么、不能告诉你什么关于 AI 智能体治理的事。73% 并没有错,那些企业确实围绕支出、访问与可见性建立了真实的治理。它们放手的那部分控制,恰恰是立于智能体与现实世界动作之间的那部分;而在某件事已经发生之前,监控看板上的任何内容都不会报告它们的缺失。

在你的下一个智能体上线之前,去找出它无需请示任何人就可执行的动作清单。如果这份清单并不存在于纸面上,那它不是空的——只是没有被写下来。

Ready to go beyond the CV?

Scovai's AI-powered Talent Passport reveals what resumes can't: personality, potential, and true job fit.