Scovai exploiteert een AI-gestuurde recruitmentplatform dat onder de reikwijdte van de EU Artificial Intelligence Act (Regulation (EU) 2024/1689) valt. AI-systemen gebruikt in werving en werkgelegenheid worden geclassificeerd als hoog risico onder Bijlage III, Sectie 4(a). Dit document beschrijft hoe Scovai aan de vereisten van de EU AI Act voldoet.
1. Risiclassificatie
De volgende Scovai AI-functies worden geclassificeerd als AI-systemen met hoog risico onder de EU AI Act:
- AI Kandidaatscoring: Geautomatiseerde scoring van kandidaten over meerdere dimensies (technische vaardigheden, ervaring, onderwijs, zachte vaardigheden, potentieel)
- AI Shortlistgeneratie: Geautomatiseerde rangschikking en aanbeveling van kandidaten voor functies
- Psychometrische profilering: AI-gegenereerde persoonlijkheidsprofielen (Big Five), cultuurfit-beoordelingen en evaluaties van leiderschapsstijl
- AI Interview Agent: Geautomatiseerde interviewbegeleiding en evaluatie met behulp van natuurlijke taalverwerking
De volgende functies worden beschouwd als beperkt risico en onderliegen alleen transparantieverplichting:
- CV-parsing: Extractie van gestructureerde gegevens uit geüploade documenten
- Generatie van vacaturebeschrijvingen: AI-ondersteunde creatie van vacaturebeschrijvingen van minimale invoer
- Generatie van technische beoordelingen: AI-gegenereerde rolspecifieke testvragen
2. Transparantie (artikel 13)
Scovai biedt transparantie op elk niveau van AI-verwerking:
2.1 Interactietransparantie
Kandidaten worden op de hoogte gesteld wanneer zij interactie hebben met een AI-systeem. De AI Interview Agent identificeert zichzelf duidelijk als AI, en alle AI-gegenereerde inhoud (scores, beoordelingen, rapporten) wordt als zodanig gelabeld in het hele Platform.
2.2 Output-verklaarbaarheid
Elke AI-output bevat voor mensen leesbare uitleg:
- Scoring: Elke score-dimensie bevat een XAI-rationale die uitlegt welke factoren hebben bijgedragen, welke aanpassingen zijn aangebracht en waarom
- Psychometrische profielen: Resultaten bevatten beschrijvingen van wat elke eigenschap betekent en hoe deze is beoordeeld
- Interviewrapporten: AI-evaluaties citeren specifieke kandidaatresponsen en leggen de basis voor elke beoordeling uit
- Shortlists: Rangschikkingsrationale legt de gewichtsverdeling en belangrijkste onderscheidingsfactoren tussen kandidaten uit
2.3 Systemdocumentatie
We onderhouden uitgebreide technische documentatie van onze AI-systemen, inclusief hun beoogd doel, mogelijkheden, beperkingen en bekende risico's.
3. Menselijk toezicht (artikel 14)
Scovai is ontworpen als een ondersteuningshulpmiddel voor besluitvorming, niet als een besluitvormingssysteem. Menselijk toezicht is ingebouwd in de platformarchitectuur:
- Geen autonome wervingsbeslissingen: AI-outputs worden gepresenteerd als aanbevelingen. Menselijke recruiters beoordelen, valideren en maken alle definitieve besluiten.
- Override-mogelijkheid: Recruiters kunnen elke AI-gegenereerde score, rangschikking of aanbeveling overschrijven, aanpassen of verwijderen.
- Verzoeken om menselijke beoordeling: Zowel kandidaten als recruiters kunnen via de compliancemodule formeel menselijke beoordeling van elk AI-besluit aanvragen. Verzoeken worden bijgehouden en gecontroleerd.
- AI-functiebeheer: Tenant-beheerders kunnen AI-functies op elk moment inschakelen of uitschakelen.
- Configureerbare gewichten: Scoringgewichten over alle dimensies kunnen door de organisatie worden geconfigureerd, zodat AI-gedrag aansluit bij door de mens gedefinieerde prioriteiten.
4. Gegevensbeheer (artikel 10)
Onze AI-systemen worden geregeld door strikte praktijken op het gebied van gegevenskwaliteit en -beheer:
- Trainingsgegevens: We gebruiken geen individuele kandidaatgegevens om AI-modellen te trainen of af te stemmen. Onze AI-providers verwerken API-gegevens onder verwerkersovereenkomsten die het gebruik voor het trainen van hun modellen uitsluiten.
- Gegevenskwaliteit: CV-parsing bevat validatiecontroles. Scoringinvoer wordt geverifieerd tegen gestructureerde functieverplichtingen.
- Gegevensminimalisatie: AI-systemen ontvangen alleen de gegevens die nodig zijn voor hun specifieke taak.
5. Nauwkeurigheid, robuustheid en cyberbeveiliging (artikel 15)
- Nauwkeurigheid: AI-scoring wordt gevalideerd tegen gestructureerde vereisten met configureerbare drempels. Verklaarbaarheidsrationale stelt recruiters in staat de basis van elke score te controleren.
- Robuustheid: AI-systemen bevatten time-outbeveiliging, retry-logica en fallback-routering naar alternatieve modellen als het primaire model niet beschikbaar is.
- Cyberbeveiliging: Applicatie-infrastructuur en gegevensopslag draaien op onze eigen servers in de EER. AI-modelaanroepen worden gerouteerd via centraal geconfigureerde, geauditeerde providers (Anthropic, OpenAI) onder verwerkersovereenkomsten. API-sleutels zijn versleuteld (AES-256 (GCM/CBC)) en alle communicatie gebruikt TLS-versleuteling.
6. Voorkoming van bias en discriminatie (artikel 10, lid 2, punt f)
Scovai implementeert proactieve bias-monitoring en -beperking:
- Automatische biasanalyse: De analytische module bevat biasmonitoring die AI-scoringpatronen over demografische groepen (gender, leeftijd) volgt
- Score-verdelingsanalyse: Recruiters kunnen score-verdelingen bekijken om potentiële systematische biases te identificeren
- Configureerbare scoring: Scoring-dimensies en gewichten zijn transparant en aanpasbaar, wat voorkomt dat verborgen bias wordt versterkt
- Verklaarbaarheid: Door duidelijke rationale voor elke score te verstrekken, kan biased redeneringen worden geïdentificeerd en aangepakt
Deze monitoring betreft de wervingsfunnel. Ze strekt zich momenteel niet uit tot de output van Digital Employees, prestatiebeoordelingen of cultuurassessments.
7. Recordbehoud en audittrail (artikel 12)
Scovai onderhoudt uitgebreide logboeken en records:
- Auditlog: Elke platformactie (score gegenereerd, kandidaat beoordeeld, shortlist gemaakt, besluit genomen) wordt opgenomen met actor, timestamp en details
- Gestructureerde logging: Systeemlogboeken leggen AI-verwerkingsgebeurtenissen vast met ernstniveaus, categorieën, trace-id's en duurmaten
- Retentie: Kritieke en foutlogboeken worden 365 dagen in het live systeem bewaard, en standaardlogboeken 30-90 dagen afhankelijk van ernst. Elke regel wordt naar een gecomprimeerd archiefbestand geschreven voordat hij uit het live systeem wordt verwijderd; die archiefbestanden worden bewaard totdat een beheerder ze verwijdert.
- Export: Auditgegevens kunnen voor regelgevingsherziening worden geëxporteerd
8. Registratie en conformiteitsverklaring
Als aanbieder en, voor ons eigen gebruik, als gebruiksverantwoordelijke van AI-systemen met hoog risico in het werkgelegenheidsdomein hebben we de volgende verplichtingen:
- Registratie van AI-systemen met hoog risico in de EU-database op grond van artikel 49. Deze registratie is nog niet gedaan. We vermelden de status hier zodra dat gebeurd is.
- Het bijhouden van documentatie over de conformiteitsbeoordeling
- Samenwerking met nationale bevoegde autoriteiten en markttoezichtorganen
- Het melden van ernstige incidenten in overeenstemming met artikel 73
Twee verdere verplichtingen rusten op de Tenant als gebruiksverantwoordelijke, en we noemen ze hier in plaats van ze impliciet te laten. Artikel 26 vereist menselijk toezicht door mensen met de bekwaamheid om het uit te oefenen, en artikel 4 vereist dat medewerkers die deze systemen gebruiken over voldoende AI-geletterdheid beschikken. Is de gebruiksverantwoordelijke een publiekrechtelijke instelling, of beoordeelt zij kredietwaardigheid of de prijsstelling van levens- en ziektekostenverzekeringen, dan vereist artikel 27 ook een effectbeoordeling op het gebied van grondrechten. Daarvoor bieden we momenteel geen sjablonen; paragraaf 5.2 van de Voorwaarden voor Bedrijven regelt de verdeling van verantwoordelijkheden.
8A. Digital Employees en functies voor medewerkers
Een Digital Employee die kandidaten voorselecteert, rangschikt of interviewt is een AI-systeem met hoog risico volgens bijlage III punt 4(a), net als de recruitingfuncties in paragraaf 1, en valt onder de paragrafen 2 tot en met 7.
Scovai zet AI ook in op mensen die al in dienst zijn: samenvattingen van functionerings- en eindejaarsgesprekken, ontwikkelplannen, cultuur- en onboardingbeoordelingen, check-insamenvattingen en competentiescorecards. Bijlage III punt 4(b) dekt AI die bedoeld is voor beslissingen over promotie of ontslag, voor het toewijzen van taken op basis van gedrag of persoonlijke kenmerken, en voor het volgen en beoordelen van prestaties. Gebruikt een Tenant deze uitkomsten voor zulke beslissingen, dan vallen ze onder dat punt; onze Voorwaarden zeggen al dat prestatiebeoordeling en taaktoewijzing hoogrisicogebruik zijn.
In het platform zijn deze uitkomsten adviserend. De cijfers in een competentiescorecard komen uit een deterministische formule, niet uit een model; het model schrijft alleen de kwalitatieve laag, en mislukt dat, dan verschijnt de scorecard met alleen de cijfers. Integriteitssignalen wijzen een kandidaat nooit op zichzelf af. De Tenant blijft als gebruiksverantwoordelijke verantwoordelijk voor menselijk toezicht, voor het informeren van werknemers en hun vertegenwoordiging, en voor elke effectbeoordeling die het nationale recht vereist.
Digital Employees zijn binnen Scovai als AI gemarkeerd en stellen zich bij het eerste contact als AI voor; de Voorwaarden beschrijven hoe zij zich tegenover derden kenbaar maken.
9. Kandidaatrechten onder de EU AI Act
Als persoon die door Scovai's AI-systemen wordt beïnvloed, heb je het recht om:
- Geïnformeerd te worden dat een AI-systeem wordt gebruikt in het recruitmentproces
- Een uitleg te ontvangen van hoe AI-beoordelingen, scores en rankings zijn gegenereerd
- Menselijke beoordeling aan te vragen van elk AI-gegenereerd besluit
- Een klacht in te dienen bij de relevante nationale autoriteit als je gelooft dat het AI-systeem op niet-conforme wijze is gebruikt
10. Contact
Voor vragen over onze EU AI Act-conformiteit of om zorgen over AI-besluitvorming te melden:
E-mail: [email protected]
