En 26.000 evaluaciones de pitches de startups idénticos que solo diferían en el nombre del fundador, GPT hizo que los pitches asociados a nombres de mujeres negras fueran 8,8 puntos porcentuales menos propensos a quedar últimos frente a una base del 25 % — y los mismos autores "no encontraron evidencia consistente" de que ningún pitch con nombre de minoría tuviera más probabilidades de ser elegido ganador, el único resultado que daba acceso a la aceleradora (Botelho y Wang, Strategic Management Journal, 2026). La disparidad no se redujo. Se trasladó a una parte del embudo donde nadie la mide.
Ese resultado debería cambiar dónde apuntas tu auditoría del sesgo de la IA en contratación, porque los dos números que lo sostienen son la firma exacta de un sistema de cribado que informa una mejora sin producir ninguna.
Qué hizo realmente el estudio
Botelho y Wang (Yale) construyeron los pitches a partir de las descripciones de negocio de 2.000 startups admitidas en Y Combinator entre 2020 y 2023, y luego hicieron que GPT actuara como "juez de una aceleradora prestigiosa", puntuando lotes de cuatro pitches a la vez en una escala de 0 a 100. En la condición de control los pitches no llevaban ningún nombre de fundador. En la condición experimental los mismos pitches, en el mismo orden, llevaban un nombre ficticio elegido para señalar uno de cuatro grupos de género y raza. Quinientos lotes por condición. El estatus socioeconómico asociado al nombre se controló con datos de riqueza de los hogares, lo que cierra la objeción habitual de que los nombres son un proxy de clase y no de raza.
El hallazgo principal es una asimetría, no una brecha:
- Evitación del último puesto. Frente a los pitches con nombres de hombres blancos, los de minorías tenían menos probabilidad de quedar últimos — 8,8 puntos para mujeres negras (p = .006), 6,0 para hombres negros (p = .070), 4,0 para mujeres blancas (p = .204). Solo el primero es significativo a niveles convencionales; los otros dos son indicativos.
- Selección del ganador. Ningún efecto consistente. El resultado que llevaba premio no se movió.
- Justificaciones. GPT justificó cada puntuación en términos de negocio — mercado, conocimiento del cliente, innovación de producto. Ninguna justificación mencionó género, raza, equidad ni alineamiento.
El patrón se mantuvo con otra escala, otro persona, una consigna de rechazar el peor, un segundo dominio de tarea y cinco versiones del modelo, desde text-davinci-002 hasta GPT-4o. No es un artefacto del prompt.
Los autores llaman al mecanismo cumplimiento simbólico: el modelo suprime la salida visiblemente discriminatoria sin alterar su lógica evaluativa. El término se toma deliberadamente de la literatura sobre empresas que adoptan prácticas de diversidad para satisfacer un mandato externo en lugar de para cambiar una decisión. La salida parece conforme. La decisión no.
Por qué el centro del embudo es el peor lugar para aparcar a un candidato
Una tasa más baja de último puesto no es neutra. Es la forma más costosa de no-progreso, y el paper explica exactamente por qué.
Librarse del fondo de la clasificación coloca al candidato en la banda intermedia — la lista corta, la segunda ronda, el montón de "prometedores, sigamos hablando". Esas posiciones exigen inversión continua de tiempo, preparación y exposición reputacional. No mejoran las probabilidades de selección. Botelho y Wang, apoyándose en trabajos previos sobre embudos de evaluación, sostienen que la inversión sostenida seguida de rechazos repetidos en fase tardía es una de las formas más fiables de inducir la salida voluntaria de un embudo.
Para un responsable de operaciones que gestiona cribado a volumen, la traducción es limpia. Un cribador que mejora la composición de la lista corta y deja intacta la composición de las ofertas no está construyendo un pipeline más diverso. Está gastando más horas de candidatos para llegar a la misma contratación, y está entrenando a una cohorte para que deje de postularse.
El humano en el bucle renunció a cuestionar la versión plausible
La segunda mitad del estudio es la parte que debería inquietar a cualquiera cuyo control de equidad sea "un reclutador revisa cada recomendación de la IA".
En los experimentos "Second Opinion" — 18.000 evaluaciones adicionales — GPT revisó los mismos pitches junto con la puntuación y la justificación escrita de un juez humano simulado. A un fundador de minoría por lote se le recortó la puntuación un 25 %, unos 20 puntos. El recorte era idéntico en ambas condiciones. Solo cambiaba la razón declarada: una crítica de calidad de negocio, o un estereotipo identitario que nunca nombraba género ni raza.
GPT corrigió la penalización en +1,8 puntos cuando la razón sonaba a juicio de negocio, y en +3,2 puntos cuando sonaba a estereotipo — una diferencia del 78 % en sensibilidad ante la misma injusticia aritmética (p < .001). Y aun la corrección mayor era cosmética: los dos ajustes compensaron el 9 % y el 16 % de la penalización original, y cambiaron el orden dentro del lote en 3 de 500 lotes y 16 de 500 respectivamente. La selección del ganador no varió en ninguno de los dos casos.
Léelo en términos operativos. El modelo caza la versión del sesgo que nadie pone por escrito, y deja pasar la versión que todo revisor con experiencia produce de verdad — un párrafo de apariencia defendible sobre encaje comercial, comunicación o madurez.
El fallo corre también en la dirección contraria. En un experimento de campo con 228 evaluadores cribando 48 candidaturas reales, las recomendaciones de IA en caja negra mejoraron la calidad de la decisión, mientras que las mismas recomendaciones envueltas en una explicación narrativa no — los evaluadores se adhirieron de forma desproporcionada a las recomendaciones de rechazo, aumentando los falsos negativos (Lane et al., HBS Working Paper 25-001, 2024). El razonamiento fluido sustituye a la verificación en ambas direcciones. Pon a un humano y a un modelo en serie y tendrás dos revisores, cada uno renunciando a interrogar la prosa del otro.
Tu auditoría del sesgo de la IA en contratación aprobó por dónde la muestreaste
Esta es la parte que convierte un paper de estrategia en una decisión del primer trimestre.
La mayoría de las auditorías de cribado leen el impacto adverso en el punto más ancho del embudo, porque ahí los tamaños de muestra son cómodos y los datos ya están instrumentados. Si el mecanismo de sesgo dominante es la supresión del último puesto, esa es precisamente la etapa en la que la métrica se verá mejor y significará menos.
Dos hallazgos más afinan el punto:
- Una auditoría de más de cuatro millones de candidaturas en 156 empleadores, todas cribadas por un único proveedor, encontró que el 10,62 % de las posiciones incumplía la regla de los cuatro quintos de la EEOC para candidatos negros — una disparidad a nivel de posición que la certificación de equidad a nivel de proveedor no revela (Stanford HAI, 2026).
- En una simulación de contratación de 40 rondas donde cada candidato tenía la misma probabilidad de triunfar en cada puesto, 15 modelos segregaron grupos demográficos inventados en nichos laborales alrededor de un 65 % con más fuerza que los participantes humanos, y los modelos con razonamiento más potente segregaron más (Princeton y University of Chicago, ICML, 2026). El recuento agregado de contrataciones por grupo puede mantenerse estable mientras la asignación de roles subyacente no.
Tres mecanismos distintos, una lección compartida: la etapa y la granularidad con que mides determinan lo que tu auditoría es capaz de detectar. Un número agregado limpio leído en la lista corta no es prueba de un proceso justo. Es prueba de un punto de muestreo bien elegido.
La contraargumentación honesta
Hay un argumento real del otro lado. Suprimir la salida abiertamente discriminatoria no carece de valor — elimina una clase de exposición legal y una clase de daño al candidato que eran rutina, y es una mejora genuina frente a un modelo que reproduce el sesgo histórico en forma abierta. Botelho y Wang no sostienen lo contrario.
La afirmación es más estrecha y más difícil de descartar: la supresión en una etapa intermedia no debe contarse como progreso en la selección, porque el estudio midió ambas cosas y solo una se movió. Si tu reporting de equidad no sabe distinguirlas, registrará una victoria que tus datos de ofertas no contienen. Y la cautela corta en ambos sentidos — este es un experimento computacional sobre pitches de startups, no un ensayo de campo sobre cribado de CV. La transferencia a tu embudo es una inferencia. La disciplina de medición que defiende es lo bastante barata para adoptarla sobre una inferencia; la alternativa es certificar un proceso con una métrica que la investigación predice que mejorará de todos modos.
Qué cambiar este trimestre
Cuatro movimientos, por orden de lo poco que cuestan.
1. Reapunta la métrica a la decisión que lleva el premio. Calcula las tasas de selección por grupo en el paso de la oferta, no en la lista corta. Si solo tienes presupuesto para instrumentar bien una etapa, instrumenta la última. La composición de la lista corta es un indicador adelantado de nada si la conversión de lista corta a oferta es donde está la disparidad.
2. Mide por grupo y por puesto. La paridad agregada con segregación a nivel de puesto es el modo de fallo que la simulación de ICML produjo a partir de datos limpios. Mensualmente, por cohorte, por familia de requisiciones.
3. Deja de contar al revisor como el control. El resultado 1,8 frente a 3,2 significa que las justificaciones plausibles sobreviven a la revisión de la máquina, y el experimento con 228 evaluadores significa que las justificaciones de la máquina sobreviven a la revisión humana. Un paso de revisión es un control solo si el revisor ve los datos estructurados en lugar de la prosa — la subpuntuación, el requisito declarado al que se asocia, la distribución de la cohorte en la que estaba el candidato, y una decisión humana registrada por cada contratación. Esos cuatro artefactos son lo que permite a una auditoría reconstruir una decisión después del hecho; la postura enterprise de Scovai sobre scoring y auditoría se publica sobre esa base, incluido el reparto fijo 50/50 entre cobertura aritmética de requisitos y subpuntuaciones del modelo etiquetadas por separado, y la exclusión de cualquier atributo demográfico como entrada de scoring. Cualquiera que sea tu stack, pregunta qué puede reproducir seis meses después.
4. Escribe la pregunta sobre divulgación en el contrato, no en el plan de implantación. Pide a tu proveedor divulgación del impacto adverso por puesto y por etapa, incluida la conversión de lista corta a oferta. La respuesta, o la negativa, te dice qué está certificando realmente el certificado anual.
Nada de esto requiere un modelo nuevo, un proveedor nuevo ni una iniciativa de diversidad. Requiere mover una consulta de la boca del embudo al fondo.
Tu auditoría del sesgo de la IA en contratación está midiendo hoy la etapa en la que tu cribador se porta mejor. Muévela a la etapa en la que se hace la oferta, y averigua este trimestre si tus números de diversidad describen tu pipeline o tu muestreo.