Em 26.000 avaliações de pitches de startups idênticos, diferindo apenas no nome do fundador, o GPT tornou os pitches associados a nomes de mulheres negras 8,8 pontos percentuais menos propensos a ficar em último lugar face a uma base de 25 % — e os mesmos autores "não encontraram evidência consistente" de que qualquer pitch com nome de minoria tivesse maior probabilidade de ser escolhido vencedor, o único resultado que dava admissão ao acelerador (Botelho e Wang, Strategic Management Journal, 2026). A disparidade não diminuiu. Deslocou-se para uma parte do funil onde ninguém a mede.
Esse resultado deveria mudar o ponto em que aponta a sua auditoria ao viés da IA na contratação, porque os dois números que o sustentam são a assinatura exata de um sistema de triagem que reporta uma melhoria sem produzir nenhuma.
O que o estudo fez de facto
Botelho e Wang (Yale) construíram os pitches a partir das descrições de negócio de 2.000 startups admitidas na Y Combinator entre 2020 e 2023, e depois fizeram o GPT atuar como "juiz de um acelerador prestigiado", pontuando lotes de quatro pitches de cada vez numa escala de 0 a 100. Na condição de controlo os pitches não traziam qualquer nome de fundador. Na condição experimental os mesmos pitches, pela mesma ordem, traziam um nome fictício escolhido para sinalizar um de quatro grupos de género e etnia. Quinhentos lotes por condição. O estatuto socioeconómico associado ao nome foi controlado através de dados de riqueza dos agregados familiares, o que encerra a objeção habitual de que os nomes são um proxy de classe e não de etnia.
O achado principal é uma assimetria, não uma diferença de média:
- Evitamento do último lugar. Face aos pitches com nomes de homens brancos, os de minorias tinham menor probabilidade de ficar em último — 8,8 pontos para mulheres negras (p = .006), 6,0 para homens negros (p = .070), 4,0 para mulheres brancas (p = .204). Só o primeiro é significativo a níveis convencionais; os outros dois são indicativos.
- Seleção do vencedor. Nenhum efeito consistente. O resultado que trazia prémio não se moveu.
- Justificações. O GPT justificou cada pontuação em termos de negócio — mercado, conhecimento do cliente, inovação de produto. Nenhuma justificação referiu género, etnia, equidade ou alinhamento.
O padrão manteve-se com outra escala, outra persona, uma instrução para rejeitar o pior, um segundo domínio de tarefa e cinco versões do modelo, de text-davinci-002 a GPT-4o. Não é um artefacto do prompt.
Os autores dão ao mecanismo o nome de conformidade simbólica: o modelo suprime o output visivelmente discriminatório sem alterar a sua lógica avaliativa. O termo é tomado deliberadamente da literatura sobre empresas que adotam práticas de diversidade para satisfazer um mandato externo em vez de mudar uma decisão. O output parece conforme. A decisão não.
Por que o meio do funil é o pior lugar para estacionar um candidato
Uma taxa mais baixa de último lugar não é neutra. É a forma mais caríssima de não-progresso, e o artigo explica exatamente por quê.
Ser poupado ao fundo da classificação coloca o candidato na faixa intermédia — a lista final, a segunda ronda, a pilha dos "promissores, continuemos a conversar". Essas posições exigem investimento contínuo de tempo, preparação e exposição reputacional. Não melhoram as probabilidades de seleção. Botelho e Wang, apoiando-se em trabalho anterior sobre funis de avaliação, defendem que investimento prolongado seguido de rejeições repetidas em fase tardia é uma das formas mais fiáveis de induzir a saída voluntária de um funil.
Para um responsável de operações que gere triagem a volume, a tradução é limpa. Um sistema de triagem que melhora a composição da lista final e deixa intacta a composição das propostas não está a construir um pipeline mais diverso. Está a gastar mais horas de candidatos para chegar à mesma contratação, e a treinar uma coorte para deixar de se candidatar.
O humano no circuito abdicou de contestar a versão plausível
A segunda metade do estudo é a parte que deveria inquietar quem tem como controlo de equidade "um recrutador revê cada recomendação da IA".
Nas experiências "Second Opinion" — mais 18.000 avaliações — o GPT reviu os mesmos pitches acompanhados da pontuação e da justificação escrita de um juiz humano simulado. A um fundador de minoria por lote foi cortada a pontuação em 25 %, cerca de 20 pontos. O corte era idêntico nas duas condições. Só mudava a razão declarada: uma crítica à qualidade do negócio, ou um estereótipo identitário que nunca nomeava género nem etnia.
O GPT corrigiu a penalização em +1,8 pontos quando a razão soava a juízo de negócio, e em +3,2 pontos quando soava a estereótipo — uma diferença de 78 % na sensibilidade à mesma injustiça aritmética (p < .001). E mesmo a correção maior era cosmética: os dois ajustamentos compensaram 9 % e 16 % da penalização original, e alteraram a ordem dentro do lote em 3 de 500 lotes e 16 de 500, respetivamente. A seleção do vencedor permaneceu inalterada em ambos os casos.
Leia isso em termos operacionais. O modelo apanha a versão do viés que ninguém escreve, e deixa passar a versão que qualquer revisor experiente produz de facto — um parágrafo de aparência defensável sobre encaixe comercial, comunicação ou maturidade.
A falha corre também no sentido inverso. Numa experiência de campo com 228 avaliadores a triar 48 candidaturas reais, as recomendações de IA em caixa negra melhoraram a qualidade da decisão, enquanto as mesmas recomendações envoltas numa explicação narrativa não — os avaliadores aderiram desproporcionadamente às recomendações de rejeição, aumentando os falsos negativos (Lane et al., HBS Working Paper 25-001, 2024). O raciocínio fluente substitui a verificação em ambos os sentidos. Ponha um humano e um modelo em série e terá dois revisores, cada um abdicando de interrogar a prosa do outro.
A sua auditoria ao viés da IA na contratação passou por causa do ponto onde a amostrou
É esta a parte que converte um artigo de estratégia numa decisão do primeiro trimestre.
A maioria das auditorias de triagem lê o impacto adverso no ponto mais largo do funil, porque é aí que as dimensões de amostra são confortáveis e os dados já estão instrumentados. Se o mecanismo de viés dominante é a supressão do último lugar, essa é precisamente a fase em que a métrica parecerá melhor e significará menos.
Dois outros achados afinam o argumento:
- Uma auditoria a mais de quatro milhões de candidaturas em 156 empregadores, todas triadas por um único fornecedor, encontrou 10,62 % das posições a falhar a regra dos quatro quintos da EEOC para candidatos negros — uma disparidade ao nível da posição que a certificação de equidade ao nível do fornecedor não revela (Stanford HAI, 2026).
- Numa simulação de contratação de 40 rondas em que cada candidato tinha igual probabilidade de sucesso em qualquer função, 15 modelos segregaram grupos demográficos inventados em nichos profissionais cerca de 65 % mais fortemente do que os participantes humanos, com os modelos de raciocínio mais forte a segregar mais (Princeton e University of Chicago, ICML, 2026). A contagem agregada de contratações por grupo pode manter-se estável enquanto a alocação de funções subjacente não.
Três mecanismos diferentes, uma lição comum: a fase e a granularidade com que mede determinam o que a sua auditoria é capaz de detetar. Um número agregado limpo lido na lista final não é prova de um processo justo. É prova de um ponto de amostragem bem escolhido.
O contra-argumento honesto
Há um argumento real do outro lado. Suprimir output abertamente discriminatório não é inútil — retira uma classe de exposição legal e uma classe de dano ao candidato que eram rotina, e é uma melhoria genuína face a um modelo que reproduz o viés histórico de forma aberta. Botelho e Wang não afirmam o contrário.
A afirmação é mais estreita e mais difícil de descartar: supressão numa fase intermédia não deve ser contada como progresso na seleção, porque o estudo mediu as duas coisas e só uma se moveu. Se o seu reporte de equidade não souber distingui-las, registará uma vitória que os seus dados de propostas não contêm. E a cautela corta nos dois sentidos — esta é uma experiência computacional com pitches de startups, não um ensaio de campo sobre triagem de CV. A transferência para o seu funil é uma inferência. A disciplina de medição que o artigo defende é suficientemente barata para se adotar com base numa inferência; a alternativa é certificar um processo com uma métrica que a investigação prevê que melhorará de qualquer modo.
O que mudar neste trimestre
Quatro movimentos, por ordem do pouco que custam.
1. Reaponte a métrica para a decisão que carrega o prémio. Calcule taxas de seleção por grupo no passo da proposta, não na lista final. Se só tiver orçamento para instrumentar bem uma fase, instrumente a última. A composição da lista final é um indicador avançado de nada se a conversão de lista final para proposta for onde a disparidade mora.
2. Meça por grupo e por função. Paridade agregada com segregação ao nível da função é o modo de falha que a simulação ICML produziu a partir de dados limpos. Mensalmente, por coorte, por família de requisições.
3. Deixe de contar o revisor como controlo. O resultado 1,8 contra 3,2 significa que justificações plausíveis sobrevivem à revisão da máquina, e a experiência com 228 avaliadores significa que justificações da máquina sobrevivem à revisão humana. Um passo de revisão só é um controlo se o revisor vir os inputs estruturados em vez da prosa — a subpontuação, o requisito declarado a que se liga, a distribuição da coorte em que o candidato se encontrava, e uma decisão humana registada por contratação. Esses quatro artefactos são o que permite a uma auditoria reconstruir uma decisão depois do facto; a postura enterprise da Scovai sobre scoring e auditoria é publicada nessa base, incluindo a divisão fixa 50/50 entre cobertura aritmética de requisitos e subpontuações do modelo etiquetadas separadamente, e a exclusão de qualquer atributo demográfico como input de scoring. Qualquer que seja o seu stack, pergunte o que ele consegue reproduzir seis meses depois.
4. Escreva a questão da divulgação no contrato, não no plano de implementação. Peça ao fornecedor divulgação do impacto adverso por função e por fase, incluindo a conversão de lista final para proposta. A resposta, ou a recusa, diz-lhe o que o certificado anual está realmente a certificar.
Nada disto exige um modelo novo, um fornecedor novo ou uma iniciativa de diversidade. Exige mover uma consulta do topo do funil para o fundo.
A sua auditoria ao viés da IA na contratação está hoje a medir a fase em que o seu sistema de triagem se porta melhor. Mova-a para a fase em que a proposta é feita, e descubra neste trimestre se os seus números de diversidade descrevem o seu pipeline ou a sua amostragem.