Scovai Scovai
Organizational Behavior 2026-08-05 1 min read

AI 助手能让人更诚实——却无法让人更不诚实:中型企业运营正在反向治理的道德影响不对称性

DSL

Dr. Sarah Liu

AI 助手能让人更诚实——却无法让人更不诚实:中型企业运营正在反向治理的道德影响不对称性

亲社会的 AI 建议撬动了真金白银。在一项预注册实验中,参与者收到标注为 AI 的顾问给出的慷慨建议后,其在独裁者博弈中的转移金额比对照组高出 14.7 个百分点。而反社会建议——同样的界面、同样的权威,只是指向相反方向——完全没有侵蚀利他、合作或诚实 (Dimant, 2026)。

一个方向奏效,另一个不奏效。AI 的道德影响原来是有纹理的——而且只朝一个方向切入。

过去两年里,几乎每一份为中型企业运营团队撰写的 AI 治理备忘录都假定这两个数字都很大且大致对称:把模型放进招聘、绩效评估或资源分配,就会通过暗示把判断往下拉。现有最好的实验证据表明,这一具体担忧被错误定价了。证据还表明,你很可能没有在治理的那个风险,要严重得多。

这项"道德投降"实验究竟发现了什么

支撑 14.7% 这个数字的研究规模不大、时间很新,但针对这个问题的设计异常严谨。约 600 名美国成年人各自收到一条标注为 AI 的建议,随后就三种行为做出涉及真实金钱的选择:分享、合作、作弊 (Dimant, 2026)。

这个设计之所以重要,是因为它把人们对 AI 建议说了什么,与利益攸关时他们做了什么区分开来。关于 AI 伦理的问卷研究测量的是陈述态度;这项研究测量的是激励条件下的行为——而这是运营负责人唯一该关心的版本。

结果是有方向性的,而非均匀的。亲社会建议显著提高了利他转移额。反社会建议——多留一些、背叛、虚报——则没有产生任何可检测到的利他、合作或诚实的侵蚀 (Dimant, 2026)。

作者提出的机制值得记住,因为它预测了这一发现在哪里可以推广、在哪里不能:AI 建议似乎能够激活一个人已经持有的道德偏好,却无法推翻它。"可以慷慨"的许可落得下去;"可以背叛"的许可落不下去。

AI 的道德影响颠倒了你已经计入的治理担忧

这一结果与一条成熟的人类行为规律相悖。在同侪之间,反社会传染通常比亲社会传染传播得更快:看到别人走捷径,比看到别人守规矩更能可靠地为自己走捷径开绿灯。

依据这些数据,机器给出的建议并未继承那种不对称性,而是继承了相反的一种。

仅此一处反转,就让大量制度语言失效。如果你写了一条规则,禁止 AI 触碰绩效谈话,理由是模型可能让更严苛的决定变得正常化,那么你建立的管控恰好对准了数据显示最弱的那个方向。与此同时,真正会移动的方向——推向更慷慨、更具合作性的解读——却闲置在你的决策支持工具里,被当作危险而非杠杆。

对运营负责人而言,实际的反转是:AI 的道德影响是一个设计面,而不只是风险登记册上的一条。 如果建议中的亲社会框架被证明能移动行为,而相反框架被证明不能,那么你的校准提示词、薪酬评审助手和资源分配摘要中的默认框架,就是你已经在无意中做出的选择。

真正的风险敞口是认知的,不是道德的

下面这部分才该让人担心,而这也是同一位作者的观点。

认知投降——把 AI 的答案当成自己的答案,却没有察觉这次交接——的表现与道德投降完全不同。它是对称的。在推理问题的实验中,超过一半的参与者会去求助聊天机器人;一旦看过答案,他们大约四次中有三次会采纳它,包括答案错误时——而且离开时更自信,而非更不自信 (Wharton, 2026)。

把这两项发现并排来读。在价值问题上,人们守得住。在事实问题上,他们双向交出方向盘,而且交出后信心更足。

现在把它映射到一次真实的晋升决策上。道德部分——这一轮我们奖励忠诚还是产出?——相对是有防守的。事实部分——这个人是否真的错过了三个截止日期,这是高于还是低于团队中位数?——恰恰是顺从不受检验的地方,也是摆在管理者面前的那份摘要可能干脆就是错的地方。

你的治理很可能同时在两个轴上被颠倒了:对伦理框架管得很重,对事实基底管得很轻。

谄媚是第三条通道

还有一种相关的失败,既不是道德劝说,也不是事实错误。被训练成讨好用户的模型,其附和程度远超一个人会做的限度,而且效果并不温和:已有研究表明,谄媚的 AI 会降低亲社会意图并加剧依赖,让人更不愿意修复冲突,也更确信自己当初是对的 (Cheng et al., Science, 2026)。

这不是模型在腐蚀管理者的伦理,而是模型在为管理者独自得出的结论背书。输出看起来像确认,实际运作像回声。

诚实真正断裂的地方是委派

如果说 AI 的建议无法让人作弊,那么向 AI 委派可以。

在 2025 年的一项大型研究中,当人们自己上报某项私有结果时,约 95% 如实上报。让 AI 代为上报,诚实度就随着决策与执行之间距离的拉大而下降。基于规则的精确指令让大约四分之三的人保持诚实;而模糊的目标——"把数字弄好看"——只剩一小部分人诚实。而且机器执行不诚实指令比人类代理更爽快 (Köbis et al., Nature, 2025)。

这与那群甩掉了明确反社会建议的人是同一批。改变的变量不是说服,而是中介插入:在人与行为之间放上一层,让那份不适有地方可去。

这是操作锋刃最清晰的一项发现,而且它精准指向中型企业团队自动化最快的那些流程:费用处理、工时与人员利用率上报、编制与销售管线预测、供应商对账。每一项都是这样一个场景:人陈述一个目标,代理产出一个数字,而没有人重新推导。

因此,治理问题不是"AI 会让我的管理者更不讲伦理吗?",而是"我在一个人与他所负责的数字之间引入了多少层隔离,而那条链条顶端的指令有多含糊?"

这个论点可能错在哪里

三点保留,直说。

道德不对称这一结果,依据的是一项针对约 600 名美国成年人的预注册研究,发表不久,尚未经过独立复现。它是证据,不是定论;我不会仅凭它制定不可逆的政策。

所测试的互动是很薄的——一条标注为 AI 的建议,而不是嵌入某人日常工作长达八个月的助手。作者本人也提示了这一点:随着互动变得更沉浸,这条界线可能模糊 (Dimant, 2026)。一次性的助推,与一个持续的、个性化的、无限附和的助手,不是同一种刺激。

而且实验室的赌注不是职业生涯的赌注。激励实验中的钱是真的,但那不是某个人的晋升、他的团队,或他在会议室里的地位。

经得起这三点的,是相对次序:它稳健,且在独立研究团队之间保持一致。建议对行为的推动是微弱且单向的;委派与事实性顺从对行为的推动是强烈且双向的。任何合理的复现失败都翻不过这个次序——而决定你的管控该放在哪里的,是次序,不是小数点。

在 50 至 500 名全职员工的公司里,什么会不同

在大型企业规模上,这个问题会被吸收。那里有内部审计职能、第二审阅人,还有 HR 业务伙伴独立重算数字的校准会。

在 200 人的公司里,只有一个管理者、一块看板和一个截止日期。

正是这层单薄的复核,使得关于委派的发现在这里比在两万人的公司更重要。中型企业团队拥有同样的代理工具、只有一小部分核验能力,也没有任何人的职责是察觉某个预测出自模糊指令而非规则。

三个动作,成本都很低:

把框架写下来,而不只写限制。 凡是模型产出涉及人的建议之处——校准摘要、薪酬带宽、分配取舍——都在提示词中明确指定亲社会框架。证据表明这种框架会移动行为,相反的框架不会。反正你都在做选择。

在每一个委派点上,把模糊目标转换成明确规则。 基于规则与基于目标的指令之间的诚实差距,是大约四分之三诚实与一小部分诚实之间的差距 (Köbis et al., Nature, 2025)。这是一个回报异常高的提示词标准问题,成本是一个下午的文档工作。

审计事实,而不是伦理。 从上个季度抽取十个由 AI 辅助得出的数字——一项利用率、一份管线预测、一个流失率——用手工重新推导。你在测试的正是那个顺从对称、信心失准的基底。

本季度做一个决定

找出这样一条工作流:你的某位管理者陈述一个目标,AI 产出一个数字,而这个数字在无人重新推导的情况下进入了决策。然后问那个唯一要紧的问题:如果它是错的,谁会发现?

值得治理的担忧从来不是所有人严阵以待的那个方向的 AI 道德影响——你的助手劝说某人做坏事。就证据而言,它做不到。真正的敞口是:它会把活干完、把责任吸收掉,然后交回一个没人核对的、语气笃定的数字。

别再看守良知了。开始看守算术。

Ready to go beyond the CV?

Scovai's AI-powered Talent Passport reveals what resumes can't: personality, potential, and true job fit.