Scovai Scovai
Hiring 2026-11-13 1 min read

入围名单更多元了,录用结果却没变——26,000 次 GPT 评估显示偏见只是转移,而非消失

DSL

Dr. Sarah Liu

入围名单更多元了,录用结果却没变——26,000 次 GPT 评估显示偏见只是转移,而非消失

在 26,000 次对内容完全相同、仅创始人姓名不同的初创路演评估中,GPT 让带黑人女性姓名的路演被排在末位的概率低了 8.8 个百分点(基准概率为 25%)——而同一批作者"未能找到一致证据"表明任何带少数族裔姓名的路演更可能被选为获胜者,而获胜是唯一能换来加速器席位的结果(Botelho 与 Wang,Strategic Management Journal,2026)。差距没有缩小。它转移到了漏斗中无人测量的那一段。

这个结果应当改变你把 AI 招聘偏见审计对准哪个环节,因为支撑它的那两个数字,正是一套"报告出改善、却没有产出改善"的筛选系统的精确签名。

这项研究实际做了什么

Botelho 与 Wang(耶鲁大学)以 2020 至 2023 年间被 Y Combinator 录取的 2,000 家初创公司的业务描述为基础生成路演文本,然后让 GPT 扮演"一家知名加速器的评审",每次对一批四份路演以 0–100 分打分。在对照条件下,路演不带任何创始人姓名。在实验条件下,同样的路演、同样的顺序,附上一个虚构姓名,用以提示四个性别—族裔组别之一。每种条件五百批。与姓名关联的社会经济地位通过家庭财富数据加以控制,这就堵住了"姓名其实代表阶层而非族裔"的常见反驳。

核心发现是一种不对称,而不是一个差距:

  • 回避末位。 相对于带白人男性姓名的路演,带少数族裔姓名的路演被排在末位的概率更低——黑人女性低 8.8 个百分点(p = .006),黑人男性低 6.0(p = .070),白人女性低 4.0(p = .204)。只有第一个在常规水平上显著;另外两个只能当作方向性参考。
  • 获胜者选择。 没有一致效应。真正带来奖励的那个结果一动未动。
  • 理由陈述。 GPT 对每个分数的解释都落在商业维度——市场、客户洞察、产品创新。没有一条理由提及性别、族裔、公平或对齐。

这一模式在换用不同量表、不同人格设定、"剔除最差者"的任务框架、第二个任务领域,以及从 text-davinci-002 到 GPT-4o 的五个模型版本下都成立。这不是提示词造成的假象。

作者把这一机制命名为象征性合规:模型压制了肉眼可见的歧视性输出,却没有改变自身的评价逻辑。这个术语是刻意从组织研究中借来的——那些为满足外部要求而非为改变决策而采纳多元化实践的企业。输出看起来是合规的。决策不是。

为什么漏斗中段是安置候选人最糟的位置

末位率下降并不中性。它是最昂贵的一种"没有进展",而论文把原因讲得很清楚。

免于垫底,等于把候选人放进中间带——入围名单、第二轮、"有潜力,再聊聊"的那一堆。这些位置要求持续投入时间、准备和声誉暴露,却不提高被选中的概率。Botelho 与 Wang 依据此前关于评价漏斗的研究指出,长期投入之后反复在后段被拒,是促使人自愿退出漏斗最可靠的方式之一。

对一位做批量筛选的运营负责人来说,翻译过来很干净:一个改善了入围名单构成、却完全没有改变录用构成的筛选器,并没有在建设更多元的人才管道。它只是消耗了更多候选人的时间去得到同一个录用结果,并训练了一整批人不再投递。

回路中的人类放弃了质疑那个听起来合理的版本

研究的后半部分,应该让所有把"招聘人员会复核每一条 AI 建议"当作公平性控制的人感到不安。

在"Second Opinion"实验中——又是 18,000 次评估——GPT 在看到一位模拟人类评审的分数和书面理由的同时复评同一批路演。每批中有一位少数族裔创始人的分数被下调 25%,约 20 分。两种条件下的扣分完全相同。唯一不同的是给出的理由:一条关于商业质量的批评,或一条从不点明性别与族裔的身份刻板印象。

GPT 对这项扣分的修正是:理由听起来像商业判断时 +1.8 分,听起来像刻板印象时 +3.2 分——面对同一笔算术上的不公,敏感度相差 78%(p < .001)。而即便是较大的那次修正也只是装饰性的:两次调整分别只抵消了原始扣分的 9% 和 16%,并且分别只在 500 批中的 3 批和 500 批中的 16 批里改变了批内排序。两种条件下获胜者的选择都没有变化。

用运营语言读这段。模型抓住的是没人会写下来的那种偏见,放过的是每一位资深评审真正会产出的那种——一段关于商业契合度、沟通能力或成熟度、听起来站得住脚的文字。

失效也会反向发生。在一项 228 名评估者筛选 48 份真实申请的现场实验中,黑箱式 AI 建议提升了决策质量,而同样的建议加上叙述性解释后却没有——评估者不成比例地顺从了拒绝类建议,推高了假阴性(Lane 等,HBS Working Paper 25-001,2024)。流畅的论述在两个方向上都替代了核验。把人与模型串联起来,你得到的是两个评审,各自都放弃质询对方的文字。

你的 AI 招聘偏见审计之所以通过,是因为取样位置

这是把一篇战略论文变成第一季度决策的部分。

多数筛选审计在漏斗最宽处读取不利影响,因为那里样本量舒适、数据早已埋点。如果主导的偏见机制是压制末位,那么那恰恰是指标看起来最漂亮、含义最单薄的那一段。

另外两项发现让这一点更锋利:

  • 一项覆盖 156 家雇主、超过四百万份申请、全部由单一供应商筛选的审计发现,10.62% 的岗位在黑人申请者上未通过 EEOC 的五分之四规则——这是一种供应商层级的公平性认证不会暴露的岗位层级差距(Stanford HAI,2026)。
  • 在一项 40 轮的招聘模拟中,每位候选人在每个岗位上成功的概率都相同,15 个模型仍把虚构的人口统计组别分隔进不同职业生态位,强度比人类参与者高出约 65%,且推理能力更强的模型分隔得最厉害(普林斯顿与芝加哥大学,ICML,2026)。按组别统计的总录用数可以保持稳定,而其下的岗位分配并不稳定。

三种不同机制,一个共同教训:你在哪个阶段、以何种粒度测量,决定了你的审计有能力发现什么。 在入围名单处读到的一个干净的汇总数字,不是流程公平的证据。它是取样点选得好的证据。

诚实的反方论点

另一侧确实有站得住的论点。压制公开的歧视性输出并非毫无价值——它移除了一类法律暴露和一类曾经常态化的候选人伤害,相比一个以公开形式复刻历史偏见的模型,这是真实的改进。Botelho 与 Wang 并未否认这一点。

他们的主张更窄,也更难反驳:中间阶段的压制不应被记为选拔层面的进展,因为研究把两者都测了,只有一个动了。如果你的公平性报告无法区分这两件事,它就会记录下一场录用数据里并不存在的胜利。而这份谨慎同样反向适用——这是一项以初创路演为对象的计算实验,不是针对简历筛选的现场试验。推广到你的漏斗属于推断。论文主张的测量纪律,便宜到足以基于一个推断就采纳;另一种选择,是用一个研究预言无论如何都会变好的指标去认证一套流程。

这个季度该改什么

四个动作,按成本从低到高排列。

1. 把指标重新对准带来奖励的那个决策。 按组别计算录用环节的入选率,而不是入围名单的构成。如果预算只够把一个阶段埋点做好,就做最后那个。如果差距落在"入围到录用"的转化上,入围名单构成就不是任何东西的领先指标。

2. 同时按组别和按岗位测量。 汇总层面的均等伴随岗位层面的分隔,正是 ICML 模拟从干净数据中生成的失效模式。按月、按队列、按岗位族。

3. 别再把复核人算作控制措施。 1.8 对 3.2 的结果意味着听起来合理的理由能通过机器复核,而 228 名评估者的实验意味着机器给出的理由能通过人工复核。只有当复核人看到的是结构化输入而不是文字时,复核步骤才算一项控制——分项得分、它所对应的既定岗位要求、候选人所处的队列分布,以及每一次录用都留痕的人工决策。这四样东西才是让审计在事后重建一个决策的依据;Scovai 在评分与审计上的企业立场正是在这个基础上公开的,包括按既定要求做算术覆盖与单独标注的模型分项得分之间固定的 50/50 权重切分,以及任何人口统计属性都不得作为评分输入。无论你用的是哪套系统,都请问一句:六个月后它能复现什么。

4. 把披露要求写进合同,而不是写进实施计划。 要求供应商按岗位、按阶段披露不利影响,包括入围到录用的转化。对方的回答,或者拒绝,会告诉你那张年度证书实际认证了什么。

这些都不需要新模型、新供应商或一项多元化计划。它只需要把一个查询从漏斗顶端挪到底端。

你的 AI 招聘偏见审计目前测量的,正是你的筛选器表现最乖的那个阶段。把它挪到发出录用通知的那个阶段,在这个季度弄清楚:你的多元化数字描述的是你的人才管道,还是你的取样方式。

Ready to go beyond the CV?

Scovai's AI-powered Talent Passport reveals what resumes can't: personality, potential, and true job fit.