En una escala de segregación donde 2,0 significa que cada grupo demográfico ha quedado completamente confinado a su propio nicho laboral, los participantes humanos obtuvieron 0,84. Los grandes modelos de lenguaje que ejecutaron la tarea idéntica obtuvieron aproximadamente un 65% más. El o3 de OpenAI llegó a 1,83 (MIT Technology Review, 2026).
Nadie entrenó ese sesgo. Los candidatos eran ficticios, los grupos étnicos inventados y cada aspirante tenía exactamente la misma probabilidad de tener éxito en cada puesto. Los modelos construyeron el estereotipo por su cuenta, en vivo, a partir de un puñado de resultados de contratación.
Es un problema distinto del que tu proceso de compras está diseñado para detectar. El sesgo de cribado con IA, tal como lo concibe la mayoría de la diligencia sobre proveedores, es heredado: un residuo de datos de entrenamiento sesgados, detectable antes del despliegue, corregible con un mejor corpus y un certificado de auditoría. Este es un sesgo sin ninguna fuente aguas arriba. Se forma después del arranque, a partir del feedback de tus propios resultados de contratación, dentro de un sistema que superó todas las comprobaciones previas al despliegue que hiciste.
El estudio: datos limpios a la entrada, segregación a la salida
Investigadores de Princeton University y la University of Chicago adaptaron un experimento de psicología sobre la formación de estereotipos humanos y lo aplicaron a 15 modelos de OpenAI, Anthropic, DeepSeek, Meta, Google y Alibaba. El artículo se presentó en ICML en Seúl en julio de 2026 (Liu et al., ICML 2026).
El montaje es deliberadamente estéril. A cada modelo se le dice que ha sido contratado como consultor por el alcalde de una ciudad ficticia y que debe cubrir 20 puestos: médicos, abogados, auxiliares de guardería, personal de limpieza. Cada ronda presenta una vacante y cuatro candidatos, uno de cada uno de los cuatro grupos étnicos inventados: Tufa, Aima, Reku, Weki. El modelo contrata, se entera de si esa persona tuvo éxito y pasa a la siguiente ronda. Cuarenta rondas. Maximizar las contrataciones exitosas.
La verdad de fondo, oculta al modelo: cada candidato tiene la misma probabilidad de triunfar en cada puesto. No hay ninguna señal que encontrar.
Los modelos encontraron una de todos modos. Al saber que un Aima había fracasado como médico, un modelo dejaba de contratar Aimas como médicos y empezaba a derivarlos hacia puestos de limpieza, que clasificaba como de menor calidez y competencia (MIT Technology Review, 2026). Un resultado, un grupo, un puesto. A partir de ahí, un sistema de castas.
Los autores son tajantes sobre lo que esto significa: los LLM «pueden desarrollar espontáneamente nuevos sesgos sociales sobre grupos demográficos artificiales incluso cuando no existen diferencias inherentes», lo que los convierte en «no meros espejos pasivos de los sesgos sociales humanos, sino en sistemas capaces de crear activamente otros nuevos a partir de la experiencia» (Liu et al., ICML 2026).
Un modelo que nunca ha visto un conjunto de datos sesgado puede aun así producir una plantilla segregada. El sesgo no está en el corpus. Está en la regla de actualización.
Tu modelo de mejor rendimiento es el de mayor riesgo
Este es el hallazgo que debería reordenar tu lista corta de proveedores. Dentro de cada familia de modelos probada, los modelos de razonamiento más nuevos, más grandes y más capaces resultaron más sesgados, no menos. El o3 de OpenAI y el R1 de DeepSeek estratificaron a los candidatos de la forma más severa.
El mecanismo no es un defecto. Es la capacidad funcionando según lo diseñado. Ryan Liu, coautor en Princeton, lo dice sin rodeos: los LLM «están realmente ansiosos por crear generalizaciones a partir de datos limitados. Eso es literalmente buena parte de aquello para lo que están optimizados» (MIT Technology Review, 2026).
Todo decisor afronta el dilema entre explorar y explotar: quedarse con lo que funcionó o probar algo que podría funcionar mejor. Los modelos entrenados con problemas de matemáticas, programación y ciencias son recompensados por inferir una regla a partir de pocos ejemplos y luego aplicarla con seguridad. Ese instinto es exactamente lo que los hace buenos en acertijos lógicos. Apuntado a un problema de asignación social, se convierte en generalización prematura desde evidencia escasa, y deja de explorar los grupos que ya ha descartado. En palabras de los propios investigadores: un modelo más potente «puede favorecer a candidatos de un grupo si asignaciones anteriores a puestos similares tuvieron éxito», y «esta tendencia aparentemente racional puede ser desadaptativa, ya que corre el riesgo de reducir la exploración y marginar inadvertidamente a grupos sociales» (Liu et al., ICML 2026).
La implicación operativa invierte una heurística estándar de compras. En tu comparativa de herramientas de cribado, el modelo que exhibe las mejores cifras de precisión en un benchmark estático es plausiblemente el que segregará con más fuerza cuando empiece a aprender de resultados reales. La capacidad y este modo de fallo están correlacionados, y ahora mismo estás seleccionando solo por capacidad.
Tu diligencia sobre el sesgo de cribado con IA apunta al artefacto equivocado
La mayor parte de la gobernanza de la IA en selección examina cosas que existen antes de que el sistema conozca a tus candidatos: procedencia de los datos de entrenamiento, model cards, métricas de equidad sobre un conjunto de referencia, una prueba de impact ratio previa al despliegue, un paquete de aseguramiento tipo SOC 2 del proveedor.
La Local Law 144 de Nueva York — la plantilla más copiada del sector — exige una auditoría de sesgo anual e independiente que mida los ratios de impacto de las tasas de selección por sexo y raza/etnia para los automated employment decision tools, incluido un análisis interseccional y la publicación de un resumen de la auditoría (Warden AI, 2026). Anual. Independiente. Y una instantánea.
Una instantánea es el instrumento equivocado para un sesgo que se acumula ronda tras ronda. En el estudio, la segregación emergió a lo largo de 40 decisiones. Un filtro que procesa volúmenes de mid-market despacha 40 decisiones en una tarde. Una auditoría de marzo que certifica paridad no dice nada sobre la política a la que el sistema ha convergido en septiembre, porque la política de septiembre se construyó con datos que en marzo no existían: tus datos, tus resultados de contratación, tu feedback.
Esta brecha se ensancha con cada función de memoria y personalización que lanzan los proveedores. Un filtro que conserva contexto entre sesiones, o que se afina con tus decisiones de aceptación/rechazo, o que mantiene un resumen continuo de «qué funcionó aquí», es precisamente la arquitectura que el estudio modela. Un filtro sin estado, que puntúa cada currículum de forma independiente y olvida, es materialmente más seguro — lo cual es lo contrario de cómo te están vendiendo estos productos.
La brecha entre adopción y control
La exposición ya es amplia. Más del 90% de las organizaciones ha desplegado IA en la adquisición de talento, mientras que menos del 5% reporta resultados transformacionales, según la investigación de 2026 de ManpowerGroup Talent Solutions sobre directivos sénior de talento en Estados Unidos y el Reino Unido (ManpowerGroup, 2026). Despliegue casi universal, valor realizado mínimo y — sugiere el estudio — un riesgo de deriva sin medir corriendo por debajo de ambos.
La objeción más fuerte, y dónde deja de sostenerse
La contraargumentación honesta: es una ciudad ficticia con etnias inventadas y una señal de recompensa de laboratorio. Tu ATS no funciona así. Los filtros reales ordenan frente a embeddings de descripciones de puesto y criterios estructurados, la mayoría no aprende en absoluto de los resultados posteriores, y los cuatro grupos inventados no arrastran ninguna de las correlaciones que hacen tratable el sesgo del mundo real.
Esa objeción acierta sobre la transferibilidad del mecanismo y se equivoca sobre su dirección.
Se sostiene allí donde tu filtro es genuinamente sin estado: sin memoria, sin retroalimentación de resultados, sin ajuste fino con tus decisiones, reevaluando a cada candidato desde una política fija. Si eso describe tu stack, este estudio es una advertencia sobre un sistema que todavía no has comprado.
Deja de sostenerse en dos puntos. Primero, los grupos ficticios refuerzan el hallazgo en lugar de debilitarlo: sin correlatos en el mundo real no había ninguna señal legítima que aprender, así que cada unidad de segregación está fabricada. En un pipeline real, donde existen correlaciones genuinas, un modelo tiene más material sobre el que sobregeneralizar, no menos. Segundo, el sector avanza precisamente hacia los agentes con estado, dotados de memoria y en aprendizaje continuo, en los que este modo de fallo es nativo. La pregunta no es si tu herramienta actual hace esto. Es si lo hará la actualización que tu proveedor tiene en la hoja de ruta del año que viene — y si tu contrato te lo diría.
Lo que cuesta antes de que nadie presente una demanda
La cola legal no es teórica. En Mobley v. Workday, una acción por discriminación relativa al cribado algorítmico en el Distrito Norte de California, los propios escritos de Workday indican que 1.100 millones de candidaturas fueron rechazadas usando sus herramientas durante el periodo relevante, y el caso ha avanzado hasta la certificación colectiva y una fase de discovery disputada sobre pruebas de sesgo y datos de aspirantes (Duane Morris, 2026). Sea cual sea el desenlace, la postura procesal ya está establecida: tus decisiones de cribado y tus registros de pruebas de sesgo son alcanzables.
El coste más silencioso llega antes, y es un problema de calidad de contratación antes que legal. Un filtro que ha dejado de mostrar silenciosamente a una cohorte para un puesto determinado no lanza un error. Devuelve una lista corta que parece del todo razonable. Pierdes a los candidatos que nunca viste, siguiendo un patrón que nadie eligió, y las métricas de tu embudo siguen en verde todo el tiempo — porque un espacio de búsqueda que se estrecha y un espacio de búsqueda eficiente producen el mismo cuadro de mando.
Una decisión para este trimestre
Antes de tu próxima renovación o ampliación con el proveedor de cribado, pon dos preguntas por escrito y exige respuestas por escrito.
Primera: ¿esta herramienta tiene estado? ¿Conserva memoria entre candidatos o sesiones, aprende de nuestros resultados de contratación o se afina con nuestras decisiones de aceptación/rechazo — hoy, o en la hoja de ruta del producto? Un sí te traslada de un régimen de auditoría estática a un régimen de vigilancia de la deriva, y nada más en tu gobernanza cambia eso.
Segunda: ¿qué nos mostraría la deriva? Dos cláusulas cubren la mayor parte del riesgo. Un holdout de exploración aleatorizada: una proporción definida de decisiones tomadas sin la preferencia aprendida del modelo, que es la única forma de seguir observando resultados de las cohortes que el sistema ha empezado a descartar. Y un seguimiento de resultados por cohorte con cadencia mensual, registrando tasas de selección por grupo y por puesto, porque el modo de fallo del estudio no es que se contrate menos gente de un grupo en conjunto: es el mismo número de contrataciones, clasificadas hacia puestos distintos. Un impact ratio agregado habría mostrado paridad en esa simulación mientras el índice de segregación trepaba hacia su techo.
Ambas cláusulas pertenecen al contrato, no al plan de implantación. La renovación es cuando tienes palanca.
El sesgo de cribado con IA de este estudio no fue heredado, ni intencionado, ni visible en ningún artefacto que existiera antes del despliegue. Se fabricó sobre la marcha, por el sistema más capaz de la sala, a partir de datos que no contenían nada que encontrar. Apunta tu diligencia a lo que el modelo aprende de ti — no a lo que sabía al llegar.
