Scovai exploiteert een AI-gestuurde recruitmentplatform dat onder de reikwijdte van de EU Artificial Intelligence Act (Regulation (EU) 2024/1689) valt. AI-systemen gebruikt in werving en werkgelegenheid worden geclassificeerd als hoog risico onder Bijlage III, Sectie 4(a). Dit document beschrijft hoe Scovai aan de vereisten van de EU AI Act voldoet.
1. Risiclassificatie
De volgende Scovai AI-functies worden geclassificeerd als AI-systemen met hoog risico onder de EU AI Act:
- AI Kandidaatscoring: Geautomatiseerde scoring van kandidaten over meerdere dimensies (technische vaardigheden, ervaring, onderwijs, zachte vaardigheden, potentieel)
- AI Shortlistgeneratie: Geautomatiseerde rangschikking en aanbeveling van kandidaten voor functies
- Psychometrische profilering: AI-gegenereerde persoonlijkheidsprofielen (Big Five), cultuurfit-beoordelingen en evaluaties van leiderschapsstijl
- AI Interview Agent: Geautomatiseerde interviewbegeleiding en evaluatie met behulp van natuurlijke taalverwerking
De volgende functies worden beschouwd als beperkt risico en onderliegen alleen transparantieverplichting:
- CV-parsing: Extractie van gestructureerde gegevens uit geüploade documenten
- Generatie van vacaturebeschrijvingen: AI-ondersteunde creatie van vacaturebeschrijvingen van minimale invoer
- Generatie van technische beoordelingen: AI-gegenereerde rolspecifieke testvragen
2. Transparantie (artikel 13)
Scovai biedt transparantie op elk niveau van AI-verwerking:
2.1 Interactietransparantie
Kandidaten worden op de hoogte gesteld wanneer zij interactie hebben met een AI-systeem. De AI Interview Agent identificeert zichzelf duidelijk als AI, en alle AI-gegenereerde inhoud (scores, beoordelingen, rapporten) wordt als zodanig gelabeld in het hele Platform.
2.2 Output-verklaarbaarheid
Elke AI-output bevat voor mensen leesbare uitleg:
- Scoring: Elke score-dimensie bevat een XAI-rationale die uitlegt welke factoren hebben bijgedragen, welke aanpassingen zijn aangebracht en waarom
- Psychometrische profielen: Resultaten bevatten beschrijvingen van wat elke eigenschap betekent en hoe deze is beoordeeld
- Interviewrapporten: AI-evaluaties citeren specifieke kandidaatresponsen en leggen de basis voor elke beoordeling uit
- Shortlists: Rangschikkingsrationale legt de gewichtsverdeling en belangrijkste onderscheidingsfactoren tussen kandidaten uit
2.3 Systemdocumentatie
We onderhouden uitgebreide technische documentatie van onze AI-systemen, inclusief hun beoogd doel, mogelijkheden, beperkingen en bekende risico's.
3. Menselijk toezicht (artikel 14)
Scovai is ontworpen als een ondersteuningshulpmiddel voor besluitvorming, niet als een besluitvormingssysteem. Menselijk toezicht is ingebouwd in de platformarchitectuur:
- Geen autonome wervingsbeslissingen: AI-outputs worden gepresenteerd als aanbevelingen. Menselijke recruiters beoordelen, valideren en maken alle definitieve besluiten.
- Override-mogelijkheid: Recruiters kunnen elke AI-gegenereerde score, rangschikking of aanbeveling overschrijven, aanpassen of verwijderen.
- Verzoeken om menselijke beoordeling: Zowel kandidaten als recruiters kunnen via de compliancemodule formeel menselijke beoordeling van elk AI-besluit aanvragen. Verzoeken worden bijgehouden en gecontroleerd.
- AI-functiebeheer: Tenant-beheerders kunnen AI-functies op elk moment inschakelen of uitschakelen.
- Configureerbare gewichten: Scoringgewichten over alle dimensies kunnen door de organisatie worden geconfigureerd, zodat AI-gedrag aansluit bij door de mens gedefinieerde prioriteiten.
4. Gegevensbeheer (artikel 10)
Onze AI-systemen worden geregeld door strikte praktijken op het gebied van gegevenskwaliteit en -beheer:
- Trainingsgegevens: We gebruiken geen individuele kandidaatgegevens om AI-modellen te trainen of af te stemmen. Onze lokaal gehoste modellen zijn voorgetrainde open-weight-modellen die alleen voor gevolgtrekking worden gebruikt en op onze eigen infrastructuur in de EU draaien.
- Gegevenskwaliteit: CV-parsing bevat validatiecontroles. Scoringinvoer wordt geverifieerd tegen gestructureerde functieverplichtingen.
- Gegevensminimalisatie: AI-systemen ontvangen alleen de gegevens die nodig zijn voor hun specifieke taak.
5. Nauwkeurigheid, robuustheid en cyberbeveiliging (artikel 15)
- Nauwkeurigheid: AI-scoring wordt gevalideerd tegen gestructureerde vereisten met configureerbare drempels. Verklaarbaarheidsrationale stelt recruiters in staat de basis van elke score te controleren.
- Robuustheid: AI-systemen bevatten time-outbeveiliging, retry-logica en fallback-routering naar alternatieve modellen als het primaire model niet beschikbaar is.
- Cyberbeveiliging: Alle AI-infrastructuur wordt on-premise in de EER gehost. API-sleutels zijn versleuteld (AES-256-CBC) en alle externe communicatie gebruikt TLS-versleuteling.
6. Voorkoming van bias en discriminatie (artikel 10, lid 2, punt f)
Scovai implementeert proactieve bias-monitoring en -beperking:
- Automatische biasanalyse: De analytische module bevat biasmonitoring die AI-scoringpatronen over demografische groepen (gender, leeftijd) volgt
- Score-verdelingsanalyse: Recruiters kunnen score-verdelingen bekijken om potentiële systematische biases te identificeren
- Configureerbare scoring: Scoring-dimensies en gewichten zijn transparant en aanpasbaar, wat voorkomt dat verborgen bias wordt versterkt
- Verklaarbaarheid: Door duidelijke rationale voor elke score te verstrekken, kan biased redeneringen worden geïdentificeerd en aangepakt
7. Recordbehoud en audittrail (artikel 12)
Scovai onderhoudt uitgebreide logboeken en records:
- Auditlog: Elke platformactie (score gegenereerd, kandidaat beoordeeld, shortlist gemaakt, besluit genomen) wordt opgenomen met actor, timestamp en details
- Gestructureerde logging: Systeemlogboeken leggen AI-verwerkingsgebeurtenissen vast met ernstniveaus, categorieën, trace-id's en duurmaten
- Retentie: Kritieke en foutlogboeken worden 365 dagen bewaard. Standaardlogboeken gedurende 30-90 dagen afhankelijk van ernst.
- Export: Auditgegevens kunnen voor regelgevingsherziening worden geëxporteerd
8. Registratie en conformiteitsverklaring
Als implementeerder en aanbieder van AI-systemen met hoog risico in het werkgelegenheidsdomein verbinden we ons ertoe:
- Onze AI-systemen met hoog risico in de EU-database in te schrijven zoals vereist door artikel 49
- Conformiteitsbeoordelingsdocumentatie bij te houden
- Samen te werken met nationale bevoegde autoriteiten en markttoezichtorganen
- Ernstige incidenten in overeenstemming met artikel 62 te melden
9. Kandidaatrechten onder de EU AI Act
Als persoon die door Scovai's AI-systemen wordt beïnvloed, heb je het recht om:
- Geïnformeerd te worden dat een AI-systeem wordt gebruikt in het recruitmentproces
- Een uitleg te ontvangen van hoe AI-beoordelingen, scores en rankings zijn gegenereerd
- Menselijke beoordeling aan te vragen van elk AI-gegenereerd besluit
- Een klacht in te dienen bij de relevante nationale autoriteit als je gelooft dat het AI-systeem op niet-conforme wijze is gebruikt
10. Contact
Voor vragen over onze EU AI Act-conformiteit of om zorgen over AI-besluitvorming te melden:
E-mail: compliance@scovai.com
