Scovai gestisce una piattaforma di reclutamento basata sull'AI che rientra nell'ambito del Regolamento europeo sull'Intelligenza Artificiale (Regolamento (UE) 2024/1689). I sistemi AI utilizzati nel reclutamento e nell'occupazione sono classificati come ad alto rischio ai sensi dell'Allegato III, Sezione 4(a). Il presente documento descrive come Scovai soddisfa i requisiti del Regolamento EU sull'AI.
1. Classificazione del Rischio
Le seguenti funzionalità AI di Scovai sono classificate come sistemi AI ad alto rischio ai sensi del Regolamento EU sull'AI:
- Scoring AI dei Candidati: Valutazione automatizzata dei candidati su più dimensioni (competenze tecniche, esperienza, istruzione, soft skills, potenziale)
- Generazione Shortlist AI: Classificazione e raccomandazione automatizzata dei candidati per le posizioni
- Profilazione Psicometrica: Profili di personalità generati dall'AI (Big Five), valutazioni di compatibilità culturale e valutazioni dello stile di leadership
- Agente AI per i Colloqui: Conduzione e valutazione automatizzata dei colloqui tramite elaborazione del linguaggio naturale
Le seguenti funzionalità sono considerate a rischio limitato e soggette solo a obblighi di trasparenza:
- Analisi CV: Estrazione di dati strutturati dai documenti caricati
- Generazione Descrizioni Lavoro: Creazione assistita dall'AI di descrizioni di lavoro da input minimi
- Generazione Assessment Tecnici: Domande di test specifiche per ruolo generate dall'AI
2. Trasparenza (Articolo 13)
Scovai fornisce trasparenza a ogni livello dell'elaborazione AI:
2.1 Trasparenza dell'Interazione
I candidati sono informati quando interagiscono con un sistema AI. L'Agente AI per i Colloqui si identifica chiaramente come AI, e tutti i contenuti generati dall'AI (punteggi, valutazioni, report) sono etichettati come tali in tutta la Piattaforma.
2.2 Spiegabilità degli Output
Ogni output AI include spiegazioni leggibili dall'uomo:
- Scoring: Ogni dimensione del punteggio include una motivazione XAI che spiega quali fattori hanno contribuito, quali aggiustamenti sono stati fatti e perché
- Profili psicometrici: I risultati includono descrizioni del significato di ogni tratto e come è stato valutato
- Report dei colloqui: Le valutazioni AI citano risposte specifiche dei candidati e spiegano la base di ogni assessment
- Shortlist: La motivazione della classificazione spiega la distribuzione dei pesi e i differenziatori chiave tra i candidati
2.3 Documentazione del Sistema
Manteniamo una documentazione tecnica completa dei nostri sistemi AI, inclusi lo scopo previsto, le capacità, i limiti e i rischi noti.
3. Supervisione Umana (Articolo 14)
Scovai è progettata come un sistema di supporto alle decisioni, non un sistema decisionale. La supervisione umana è integrata nell'architettura della piattaforma:
- Nessuna decisione autonoma di assunzione: Gli output AI sono presentati come raccomandazioni. I recruiter umani esaminano, validano e prendono tutte le decisioni finali.
- Capacità di override: I recruiter possono sovrascrivere, modificare o scartare qualsiasi punteggio, classifica o raccomandazione generata dall'AI.
- Richieste di revisione umana: Sia i candidati che i recruiter possono richiedere una revisione umana formale di qualsiasi decisione AI attraverso il modulo di conformità. Le richieste sono tracciate e verificate.
- Controlli sulle funzionalità AI: Gli amministratori dei Tenant possono abilitare o disabilitare singole funzionalità AI in qualsiasi momento.
- Pesi configurabili: I pesi dello scoring su tutte le dimensioni sono configurabili dall'organizzazione, garantendo che il comportamento dell'AI sia allineato alle priorità definite dall'uomo.
4. Governance dei Dati (Articolo 10)
I nostri sistemi AI sono governati da rigorose pratiche di qualità e governance dei dati:
- Dati di addestramento: Non utilizziamo dati individuali dei candidati per addestrare o perfezionare modelli AI. I nostri modelli ospitati localmente (Qwen, DeepSeek, Nomic) sono modelli pre-addestrati open-weight utilizzati solo per l'inferenza.
- Qualità dei dati: L'analisi CV include controlli di validazione. Gli input di scoring sono verificati rispetto ai requisiti strutturati della posizione.
- Minimizzazione dei dati: I sistemi AI ricevono solo i dati necessari per il loro compito specifico.
5. Accuratezza, Robustezza e Cybersicurezza (Articolo 15)
- Accuratezza: Lo scoring AI è validato rispetto a requisiti strutturati con soglie configurabili. La motivazione di spiegabilità consente ai recruiter di verificare la base di ogni punteggio.
- Robustezza: I sistemi AI includono protezioni di timeout, logica di retry e routing di fallback verso modelli alternativi se il modello primario non è disponibile.
- Cybersicurezza: Tutta l'infrastruttura AI è ospitata on-premise all'interno dello SEE. Le chiavi API sono crittografate (AES-256-CBC) e tutte le comunicazioni esterne utilizzano la crittografia TLS.
6. Prevenzione dei Bias e della Discriminazione (Articolo 10(2)(f))
Scovai implementa un monitoraggio e una mitigazione proattivi dei bias:
- Analisi automatica dei bias: Il modulo di analisi include un monitoraggio dei bias che traccia i pattern di scoring AI tra gruppi demografici (genere, età)
- Analisi della distribuzione dei punteggi: I recruiter possono visualizzare le distribuzioni dei punteggi per identificare potenziali bias sistematici
- Scoring configurabile: Le dimensioni e i pesi dello scoring sono trasparenti e regolabili, prevenendo l'amplificazione nascosta dei bias
- Spiegabilità: Fornendo una motivazione chiara per ogni punteggio, il ragionamento distorto può essere identificato e affrontato
7. Conservazione dei Registri e Audit Trail (Articolo 12)
Scovai mantiene log e registri completi:
- Audit log: Ogni azione sulla piattaforma (punteggio generato, candidato valutato, shortlist creata, decisione presa) è registrata con attore, timestamp e dettagli
- Log strutturati: I log di sistema catturano eventi di elaborazione AI con livelli di severità, categorie, trace ID e metriche di durata
- Conservazione: I log critici e di errore sono conservati per 365 giorni. I log standard per 30-90 giorni a seconda della severità.
- Esportazione: I dati di audit possono essere esportati per la revisione normativa
8. Registrazione e Conformità
Come deployer e fornitore di sistemi AI ad alto rischio nel dominio dell'occupazione, ci impegniamo a:
- Registrare i nostri sistemi AI ad alto rischio nel database EU come richiesto dall'Articolo 49
- Mantenere la documentazione di valutazione della conformità
- Cooperare con le autorità nazionali competenti e gli organismi di sorveglianza del mercato
- Segnalare incidenti gravi in conformità con l'Articolo 62
9. Diritti dei Candidati ai Sensi del Regolamento EU sull'AI
Come individuo interessato dai sistemi AI di Scovai, hai il diritto di:
- Essere informato che un sistema AI viene utilizzato nel processo di reclutamento
- Ricevere una spiegazione di come sono state generate le valutazioni AI, i punteggi e le classifiche
- Richiedere una revisione umana di qualsiasi decisione generata dall'AI
- Presentare un reclamo all'autorità nazionale competente se ritieni che il sistema AI sia stato utilizzato in modo non conforme
10. Contatti
Per domande sulla nostra conformità al Regolamento EU sull'AI o per segnalare preoccupazioni sul processo decisionale dell'AI:
Email: compliance@scovai.com