Scovai Scovai
Hiring 2026-11-13 1 min read

La tua shortlist è diventata più diversa e l'assunzione non è cambiata — 26.000 valutazioni GPT mostrano che il bias si sposta, non scompare

DSL

Dr. Sarah Liu

La tua shortlist è diventata più diversa e l'assunzione non è cambiata — 26.000 valutazioni GPT mostrano che il bias si sposta, non scompare

Su 26.000 valutazioni di pitch di startup identici, differenti solo per il nome del fondatore, GPT ha reso i pitch associati a nomi di donne nere 8,8 punti percentuali meno probabili di essere classificati ultimi rispetto a una base del 25% — e gli stessi autori "non hanno trovato prove coerenti" che un pitch con nome di minoranza avesse maggiori probabilità di essere scelto come vincitore, l'unico esito che garantiva l'ammissione all'acceleratore (Botelho e Wang, Strategic Management Journal, 2026). La disparità non si è ridotta. Si è spostata in una parte del funnel dove nessuno la misura.

Quel risultato dovrebbe cambiare dove puntate il vostro audit sul bias dell'AI nel recruiting, perché i due numeri che lo sostengono sono la firma esatta di uno stack di screening che riporta un miglioramento senza produrne alcuno.

Cosa ha fatto davvero lo studio

Botelho e Wang (Yale) hanno costruito i pitch dalle descrizioni aziendali di 2.000 startup ammesse a Y Combinator tra il 2020 e il 2023, poi hanno fatto agire GPT come "giudice di un acceleratore prestigioso", assegnando punteggi a lotti di quattro pitch alla volta su una scala 0–100. Nella condizione di controllo i pitch non riportavano alcun nome del fondatore. Nella condizione sperimentale gli stessi pitch, nello stesso ordine, riportavano un nome fittizio scelto per segnalare uno di quattro gruppi di genere ed etnia. Cinquecento lotti per condizione. Lo stato socioeconomico associato al nome è stato controllato tramite dati sulla ricchezza familiare, il che chiude la consueta obiezione che i nomi siano un proxy della classe sociale e non dell'etnia.

Il risultato principale è un'asimmetria, non un divario:

  • Evitamento dell'ultimo posto. Rispetto ai pitch con nomi di uomini bianchi, quelli con nomi di minoranze avevano minori probabilità di finire ultimi — 8,8 punti per le donne nere (p = .006), 6,0 per gli uomini neri (p = .070), 4,0 per le donne bianche (p = .204). Solo il primo dato è significativo ai livelli convenzionali; gli altri due vanno letti come indicativi.
  • Selezione del vincitore. Nessun effetto coerente. L'esito che portava un premio non si è mosso.
  • Motivazioni. GPT ha giustificato ogni punteggio su basi di business — mercato, conoscenza del cliente, innovazione di prodotto. Nessuna motivazione ha fatto riferimento a genere, etnia, equità o allineamento.

Lo schema è rimasto stabile con una scala diversa, una persona diversa, un'impostazione che chiedeva di scartare il peggiore, un secondo dominio di compito e cinque versioni del modello, da text-davinci-002 fino a GPT-4o. Non è un artefatto del prompt.

Gli autori chiamano il meccanismo conformità simbolica: il modello sopprime l'output visibilmente discriminatorio senza modificare la propria logica valutativa. Il termine è preso deliberatamente dalla letteratura sulle imprese che adottano pratiche di diversity per soddisfare un mandato esterno, non per cambiare una decisione. L'output sembra conforme. La decisione no.

Perché il centro del funnel è il posto peggiore in cui parcheggiare un candidato

Un tasso di ultimo posto più basso non è neutro. È la forma più costosa di non-progresso, e il paper spiega chiaramente perché.

Essere risparmiati dal fondo della classifica colloca un candidato nella fascia intermedia — la shortlist, il secondo colloquio, la pila dei "promettenti, continuiamo a parlarne". Quelle posizioni richiedono investimento continuo di tempo, preparazione ed esposizione reputazionale. Non migliorano le probabilità di selezione. Botelho e Wang, basandosi su lavori precedenti sulle pipeline valutative, sostengono che un investimento prolungato seguito da rifiuti ripetuti in fase avanzata è uno dei modi più affidabili per indurre l'uscita volontaria da una pipeline.

Per un responsabile delle operations che gestisce screening a volume, la traduzione è pulita. Uno screener che migliora la composizione della shortlist e lascia intatta la composizione delle offerte non sta costruendo una pipeline più diversificata. Sta spendendo più ore dei candidati per arrivare alla stessa assunzione, e sta addestrando una coorte a smettere di candidarsi.

L'umano nel loop ha rinunciato a contestare la versione plausibile

La seconda metà dello studio è la parte che dovrebbe inquietare chiunque abbia come controllo di equità "un recruiter rivede ogni raccomandazione dell'AI".

Negli esperimenti "Second Opinion" — altre 18.000 valutazioni — GPT ha rivisto gli stessi pitch insieme al punteggio e alla motivazione scritta di un giudice umano simulato. A un fondatore di minoranza per lotto è stato tagliato il punteggio del 25%, circa 20 punti. Il taglio era identico nelle due condizioni. Cambiava solo la ragione dichiarata: una critica sulla qualità del business, oppure uno stereotipo identitario che non nominava mai genere o etnia.

GPT ha corretto la penalizzazione di +1,8 punti quando la ragione suonava come un giudizio di business, e di +3,2 punti quando suonava come uno stereotipo — una differenza del 78% nella sensibilità alla stessa ingiustizia aritmetica (p < .001). E anche la correzione maggiore era cosmetica: i due aggiustamenti compensavano il 9% e il 16% della penalizzazione originale, e hanno cambiato la classifica interna al lotto in 3 lotti su 500 e in 16 su 500 rispettivamente. La selezione del vincitore è rimasta invariata in entrambi i casi.

Leggetelo in termini operativi. Il modello intercetta la versione del bias che nessuno mette per scritto, e lascia passare la versione che ogni revisore esperto produce davvero — un paragrafo dal suono difendibile su fit commerciale, comunicazione o maturità.

Il fallimento corre anche nella direzione opposta. In un esperimento di campo con 228 valutatori che esaminavano 48 candidature reali, le raccomandazioni AI a scatola chiusa hanno migliorato la qualità delle decisioni, mentre le stesse raccomandazioni accompagnate da una spiegazione narrativa no — i valutatori si conformavano in modo sproporzionato alle raccomandazioni di rifiuto, aumentando i falsi negativi (Lane et al., HBS Working Paper 25-001, 2024). Il ragionamento fluente sostituisce la verifica in entrambe le direzioni. Metti un umano e un modello in sequenza e ottieni due revisori, ciascuno dei quali rinuncia a interrogare la prosa dell'altro.

Il vostro audit sul bias dell'AI nel recruiting è passato per dove lo avete campionato

Questa è la parte che converte un paper di strategia in una decisione per il primo trimestre.

La maggior parte degli audit di screening legge l'impatto differenziale nel punto più ampio del funnel, perché è lì che le dimensioni campionarie sono comode e i dati già strumentati. Se il meccanismo di bias dominante è la soppressione dell'ultimo posto, quella è esattamente la fase in cui la metrica apparirà migliore e significherà meno.

Due altri risultati affinano il punto:

  • Un audit su oltre quattro milioni di candidature presso 156 datori di lavoro, filtrate da un unico fornitore, ha trovato il 10,62% delle posizioni non conforme alla regola dei quattro quinti dell'EEOC per i candidati neri — una disparità a livello di posizione che la certificazione di equità a livello di fornitore non fa emergere (Stanford HAI, 2026).
  • In una simulazione di assunzione su 40 round in cui ogni candidato aveva la stessa probabilità di riuscire in ogni lavoro, 15 modelli hanno segregato gruppi demografici inventati in nicchie occupazionali circa il 65% più intensamente dei partecipanti umani, con i modelli dal ragionamento più forte a segregare di più (Princeton e University of Chicago, ICML, 2026). Il conteggio aggregato delle assunzioni per gruppo può restare stabile mentre l'allocazione dei ruoli sottostante no.

Tre meccanismi diversi, una lezione condivisa: la fase e la granularità con cui misurate determinano ciò che il vostro audit è in grado di rilevare. Un numero aggregato pulito letto sulla shortlist non è prova di un processo equo. È prova di un punto di campionamento ben scelto.

La controargomentazione onesta

Esiste un argomento reale sul lato opposto. Sopprimere l'output apertamente discriminatorio non è senza valore — rimuove una classe di esposizione legale e una classe di danno al candidato che erano prassi, ed è un miglioramento genuino rispetto a un modello che riproduce il bias storico in forma aperta. Botelho e Wang non sostengono il contrario.

L'affermazione è più ristretta e più difficile da liquidare: la soppressione in una fase intermedia non va contata come progresso sulla selezione, perché lo studio ha misurato entrambe e solo una si è mossa. Se il vostro reporting sull'equità non sa distinguere le due cose, registrerà una vittoria che i dati sulle offerte non contengono. E la cautela vale in entrambi i sensi — questo è un esperimento computazionale su pitch di startup, non uno studio di campo sullo screening dei CV. Il trasferimento al vostro funnel è un'inferenza. La disciplina di misurazione che il paper sostiene è abbastanza economica da adottare su un'inferenza; l'alternativa è certificare un processo su una metrica che la ricerca prevede migliorerà comunque.

Cosa cambiare questo trimestre

Quattro mosse, in ordine di quanto poco costano.

1. Ripuntate la metrica sulla decisione che porta il premio. Calcolate i tassi di selezione per gruppo allo step dell'offerta, non alla shortlist. Se avete budget per strumentare bene una sola fase, strumentate l'ultima. La composizione della shortlist è un indicatore anticipatore di nulla se la conversione da shortlist a offerta è dove si annida la disparità.

2. Misurate per gruppo e per ruolo. La parità aggregata con segregazione a livello di ruolo è la modalità di fallimento che la simulazione ICML ha prodotto da dati puliti. Mensilmente, per coorte, per famiglia di requisizione.

3. Smettete di considerare il revisore come il controllo. Il risultato 1,8 contro 3,2 significa che le motivazioni plausibili sopravvivono alla revisione della macchina, e l'esperimento con 228 valutatori significa che le motivazioni della macchina sopravvivono alla revisione umana. Uno step di revisione è un controllo solo se il revisore vede gli input strutturati invece della prosa — il sottopunteggio, il requisito dichiarato a cui si mappa, la distribuzione della coorte in cui si trovava il candidato, e una decisione umana registrata per ogni assunzione. Quei quattro artefatti sono ciò che consente a un audit di ricostruire una decisione a posteriori; la postura enterprise di Scovai su scoring e audit è pubblicata su quella base, incluso lo split fisso 50/50 tra copertura aritmetica dei requisiti e sottopunteggi del modello etichettati separatamente, e l'esclusione di qualsiasi attributo demografico come input di punteggio. Qualunque stack usiate, chiedetevi cosa sia in grado di riprodurre sei mesi dopo.

4. Scrivete la domanda sulla disclosure nel contratto, non nel piano di implementazione. Chiedete al fornitore la disclosure dell'impatto differenziale per ruolo e per fase, inclusa la conversione da shortlist a offerta. La risposta, o il rifiuto, vi dice cosa stia certificando davvero il certificato annuale.

Nulla di tutto questo richiede un nuovo modello, un nuovo fornitore o un'iniziativa sulla diversity. Richiede di spostare una query dalla cima del funnel al fondo.

Il vostro audit sul bias dell'AI nel recruiting sta oggi misurando la fase in cui il vostro screener si comporta meglio. Spostatelo alla fase in cui si fa l'offerta, e scoprite questo trimestre se i vostri numeri sulla diversità descrivono la vostra pipeline o il vostro campionamento.

Ready to go beyond the CV?

Scovai's AI-powered Talent Passport reveals what resumes can't: personality, potential, and true job fit.