Scovai Scovai
Hiring 2026-11-13 1 min read

Votre liste restreinte s'est diversifiée et le recrutement n'a pas changé — 26 000 évaluations GPT montrent un biais qui se déplace, pas qui disparaît

DSL

Dr. Sarah Liu

Votre liste restreinte s'est diversifiée et le recrutement n'a pas changé — 26 000 évaluations GPT montrent un biais qui se déplace, pas qui disparaît

Sur 26 000 évaluations de pitchs de startups identiques ne différant que par le nom du fondateur, GPT a rendu les pitchs associés à un nom de femme noire 8,8 points de pourcentage moins susceptibles d'être classés derniers par rapport à une base de 25 % — et les mêmes auteurs « n'ont pas trouvé de preuves cohérentes » qu'un pitch portant un nom de minorité avait plus de chances d'être désigné gagnant, le seul résultat qui donnait accès à l'accélérateur (Botelho et Wang, Strategic Management Journal, 2026). L'écart ne s'est pas réduit. Il s'est déplacé vers une partie du tunnel que personne ne mesure.

Ce résultat devrait changer l'endroit où vous pointez votre audit du biais de l'IA au recrutement, car les deux chiffres qui le sous-tendent sont la signature exacte d'une chaîne de présélection qui rapporte une amélioration sans en produire aucune.

Ce que l'étude a réellement fait

Botelho et Wang (Yale) ont construit les pitchs à partir des descriptifs d'activité de 2 000 startups admises chez Y Combinator entre 2020 et 2023, puis ont fait jouer à GPT le rôle de « juge d'un accélérateur prestigieux », notant des lots de quatre pitchs à la fois sur une échelle de 0 à 100. Dans la condition de contrôle, les pitchs ne portaient aucun nom de fondateur. Dans la condition expérimentale, les mêmes pitchs, dans le même ordre, portaient un nom fictif choisi pour signaler l'un de quatre groupes de genre et d'origine. Cinq cents lots par condition. Le statut socio-économique associé au nom a été contrôlé via des données de patrimoine des ménages, ce qui ferme l'objection habituelle selon laquelle les noms seraient un proxy de la classe sociale plutôt que de l'origine.

Le résultat principal est une asymétrie, pas un écart :

  • Évitement de la dernière place. Par rapport aux pitchs portant un nom d'homme blanc, ceux portant un nom de minorité étaient moins susceptibles de finir derniers — 8,8 points pour les femmes noires (p = .006), 6,0 pour les hommes noirs (p = .070), 4,0 pour les femmes blanches (p = .204). Seul le premier chiffre est significatif aux seuils conventionnels ; les deux autres sont indicatifs.
  • Sélection du gagnant. Aucun effet cohérent. Le résultat porteur d'une récompense n'a pas bougé.
  • Justifications. GPT a justifié chaque note sur des bases économiques — marché, connaissance client, innovation produit. Aucune justification n'a mentionné le genre, l'origine, l'équité ou l'alignement.

Le schéma s'est maintenu avec une autre échelle, un autre persona, une consigne de rejet du moins bon, un second domaine de tâche et cinq versions de modèle, de text-davinci-002 à GPT-4o. Ce n'est pas un artefact de prompt.

Les auteurs nomment le mécanisme conformité symbolique : le modèle supprime la sortie visiblement discriminatoire sans modifier sa logique d'évaluation. Le terme est emprunté délibérément à la littérature sur les entreprises qui adoptent des pratiques de diversité pour satisfaire un mandat externe plutôt que pour changer une décision. La sortie paraît conforme. La décision, non.

Pourquoi le milieu du tunnel est le pire endroit pour garer un candidat

Un taux de dernière place plus faible n'est pas neutre. C'est la forme la plus coûteuse de non-progrès, et l'article dit précisément pourquoi.

Être épargné du bas du classement place un candidat dans la bande intermédiaire — la liste restreinte, le second tour, la pile des « prometteurs, continuons à discuter ». Ces positions exigent un investissement continu de temps, de préparation et d'exposition réputationnelle. Elles n'améliorent pas les chances de sélection. Botelho et Wang, s'appuyant sur des travaux antérieurs sur les tunnels d'évaluation, soutiennent qu'un investissement prolongé suivi de refus répétés en phase tardive est l'un des moyens les plus fiables de provoquer une sortie volontaire du tunnel.

Pour un directeur des opérations qui gère de la présélection à volume, la traduction est nette. Un outil de présélection qui améliore la composition de la liste restreinte et laisse intacte la composition des offres ne construit pas un vivier plus diversifié. Il dépense davantage d'heures de candidats pour aboutir au même recrutement, et entraîne une cohorte à cesser de postuler.

L'humain dans la boucle a renoncé à contester la version plausible

La seconde moitié de l'étude est la partie qui devrait inquiéter quiconque dont le contrôle d'équité est « un recruteur relit chaque recommandation de l'IA ».

Dans les expériences « Second Opinion » — 18 000 évaluations supplémentaires — GPT a réexaminé les mêmes pitchs accompagnés de la note et de la justification écrite d'un juge humain simulé. Un fondateur de minorité par lot voyait sa note réduite de 25 %, environ 20 points. La réduction était identique dans les deux conditions. Seule la raison annoncée changeait : une critique de qualité économique, ou un stéréotype identitaire qui ne nommait jamais le genre ni l'origine.

GPT a corrigé la pénalité de +1,8 point quand la raison sonnait comme un jugement économique, et de +3,2 points quand elle sonnait comme un stéréotype — une différence de 78 % de sensibilité à la même injustice arithmétique (p < .001). Et même la correction la plus forte était cosmétique : les deux ajustements compensaient 9 % et 16 % de la pénalité initiale, et ont modifié le classement interne au lot dans 3 lots sur 500 et 16 sur 500 respectivement. La sélection du gagnant est restée inchangée dans les deux cas.

Lisez cela en termes opérationnels. Le modèle attrape la version du biais que personne n'écrit, et laisse passer celle que tout évaluateur expérimenté produit réellement — un paragraphe à l'apparence défendable sur l'adéquation commerciale, la communication ou la maturité.

L'échec joue aussi dans l'autre sens. Dans une expérience de terrain avec 228 évaluateurs examinant 48 candidatures réelles, les recommandations IA en boîte noire ont amélioré la qualité des décisions, tandis que les mêmes recommandations assorties d'une explication narrative ne l'ont pas fait — les évaluateurs suivaient de façon disproportionnée les recommandations de rejet, augmentant les faux négatifs (Lane et al., HBS Working Paper 25-001, 2024). Le raisonnement fluide remplace la vérification dans les deux sens. Mettez un humain et un modèle en série et vous obtenez deux évaluateurs, chacun renonçant à interroger la prose de l'autre.

Votre audit du biais de l'IA au recrutement est passé à cause de l'endroit où vous l'avez échantillonné

C'est la partie qui transforme un article de stratégie en décision du premier trimestre.

La plupart des audits de présélection lisent l'impact disparate au point le plus large du tunnel, parce que c'est là que les tailles d'échantillon sont confortables et les données déjà instrumentées. Si le mécanisme de biais dominant est la suppression de la dernière place, c'est précisément l'étape où la métrique paraîtra la meilleure et signifiera le moins.

Deux autres résultats affinent le point :

  • Un audit portant sur plus de quatre millions de candidatures chez 156 employeurs, toutes filtrées par un seul fournisseur, a trouvé 10,62 % des postes en échec sur la règle des quatre cinquièmes de l'EEOC pour les candidats noirs — une disparité au niveau du poste que la certification d'équité au niveau du fournisseur ne fait pas apparaître (Stanford HAI, 2026).
  • Dans une simulation de recrutement sur 40 tours où chaque candidat avait une chance égale de réussir dans chaque poste, 15 modèles ont ségrégué des groupes démographiques inventés dans des niches professionnelles environ 65 % plus fortement que les participants humains, les modèles au raisonnement le plus poussé ségréguant le plus (Princeton et University of Chicago, ICML, 2026). Le total d'embauches par groupe peut rester stable alors que l'allocation des rôles en dessous ne l'est pas.

Trois mécanismes différents, une leçon commune : l'étape et la granularité de votre mesure déterminent ce que votre audit est capable de détecter. Un chiffre agrégé propre relevé au niveau de la liste restreinte n'est pas la preuve d'un processus équitable. C'est la preuve d'un point d'échantillonnage bien choisi.

La contre-argumentation honnête

Il existe un argument réel de l'autre côté. Supprimer la sortie ouvertement discriminatoire n'est pas sans valeur — cela retire une catégorie d'exposition juridique et une catégorie de préjudice candidat qui étaient courantes, et c'est une amélioration réelle par rapport à un modèle qui reproduit le biais historique sous forme ouverte. Botelho et Wang ne prétendent pas le contraire.

L'affirmation est plus étroite et plus difficile à écarter : la suppression à une étape intermédiaire ne doit pas être comptée comme un progrès sur la sélection, car l'étude a mesuré les deux et une seule a bougé. Si votre reporting d'équité ne sait pas distinguer ces deux choses, il enregistrera une victoire que vos données d'offres ne contiennent pas. Et la réserve joue dans les deux sens — il s'agit d'une expérience computationnelle sur des pitchs de startups, pas d'un essai de terrain sur le tri de CV. Le transfert à votre tunnel est une inférence. La discipline de mesure que l'article défend est assez peu coûteuse pour être adoptée sur une inférence ; l'alternative est de certifier un processus sur une métrique dont la recherche prédit qu'elle s'améliorera de toute façon.

Ce qu'il faut changer ce trimestre

Quatre actions, par ordre de coût croissant.

1. Repointez la métrique sur la décision qui porte la récompense. Calculez les taux de sélection par groupe à l'étape de l'offre, pas à la liste restreinte. Si vous n'avez le budget d'instrumenter correctement qu'une seule étape, instrumentez la dernière. La composition de la liste restreinte n'est l'indicateur avancé de rien si la conversion liste restreinte → offre est l'endroit où se loge l'écart.

2. Mesurez par groupe et par poste. La parité agrégée avec ségrégation au niveau du poste est le mode de défaillance que la simulation ICML a produit à partir de données propres. Mensuellement, par cohorte, par famille de postes.

3. Cessez de compter l'évaluateur comme le contrôle. Le résultat 1,8 contre 3,2 signifie que les justifications plausibles survivent à la relecture machine, et l'expérience des 228 évaluateurs signifie que les justifications machine survivent à la relecture humaine. Une étape de relecture n'est un contrôle que si le relecteur voit les données structurées plutôt que la prose — le sous-score, l'exigence déclarée à laquelle il se rattache, la distribution de la cohorte dans laquelle se situait le candidat, et une décision humaine consignée pour chaque recrutement. Ces quatre artefacts sont ce qui permet à un audit de reconstituer une décision après coup ; la posture entreprise de Scovai sur le scoring et l'audit est publiée sur cette base, y compris la répartition fixe 50/50 entre couverture arithmétique des exigences et sous-scores de modèle étiquetés séparément, et l'exclusion de tout attribut démographique comme donnée de scoring. Quelle que soit votre chaîne, demandez-vous ce qu'elle saura reproduire six mois plus tard.

4. Inscrivez la question de la divulgation dans le contrat, pas dans le plan de déploiement. Demandez à votre fournisseur une divulgation de l'impact disparate par poste et par étape, y compris la conversion liste restreinte → offre. La réponse, ou le refus, vous dira ce que le certificat annuel certifie réellement.

Rien de tout cela n'exige un nouveau modèle, un nouveau fournisseur ou une initiative diversité. Cela exige de déplacer une requête du haut du tunnel vers le bas.

Votre audit du biais de l'IA au recrutement mesure aujourd'hui l'étape où votre outil de présélection se tient le mieux. Déplacez-le vers l'étape où l'offre est faite, et découvrez ce trimestre si vos chiffres de diversité décrivent votre vivier ou votre échantillonnage.

Ready to go beyond the CV?

Scovai's AI-powered Talent Passport reveals what resumes can't: personality, potential, and true job fit.