Scovai obsługuje platformę rekrutacyjną zasilaną AI, która wchodzi w zakres Ustawy UE o AI (Rozporządzenie (UE) 2024/1689). Systemy AI używane w rekrutacji i zatrudnieniu są klasyfikowane jako wysokiego ryzyka zgodnie z Załącznikiem III, Sekcja 4(a). Dokument ten opisuje, jak Scovai spełnia wymagania Ustawy UE o AI.
1. Klasyfikacja Ryzyka
Następujące funkcje AI Scovai są klasyfikowane jako systemy AI wysokiego ryzyka zgodnie z Ustawą UE o AI:
- AI Ocena Kandydatów: Zautomatyzowana ocena kandydatów w wielu wymiarach (umiejętności techniczne, doświadczenie, edukacja, umiejętności miękkie, potencjał)
- AI Generowanie Listy Krótkiej: Zautomatyzowana klasyfikacja i rekomendacja kandydatów dla stanowisk
- Profilowanie Psychometryczne: Profile osobowości generowane przez AI (Big Five), oceny dopasowania kultury i oceny stylu przywództwa
- Agent AI Rozmowy: Zautomatyzowana rozmowa i ocena przy użyciu przetwarzania języka naturalnego
Następujące funkcje są uważane za o ograniczonym ryzyku i podlegają tylko zobowiązaniom dotyczącym przejrzystości:
- Parsowanie CV: Ekstrakcja strukturyzowanych danych z przesłanych dokumentów
- Generowanie Opisu Stanowiska: Tworzone przez AI wspomagane tworzenie opisów stanowisk z minimalnych informacji wejściowych
- Generowanie Ocen Technicznych: Pytania testowe specyficzne dla roli generowane przez AI
2. Przejrzystość (Artykuł 13)
Scovai zapewnia przejrzystość na każdym poziomie przetwarzania AI:
2.1 Przejrzystość Interakcji
Kandydaci są informowani, gdy wchodzą w interakcję z systemem AI. Agent AI Rozmowy wyraźnie się identyfikuje jako AI, a cała zawartość generowana przez AI (wyniki, oceny, raporty) jest oznaczona jako taka na całej platformie.
2.2 Wyjaśnialność Wyników
Każdy wynik AI zawiera wyjaśnienia czytelne dla człowieka:
- Ocena: Każdy wymiar wyniku zawiera uzasadnienie XAI wyjaśniające, które czynniki przyczyniły się, jakie dostosowania zostały dokonane i dlaczego
- Profile psychometryczne: Wyniki zawierają opisy, co każda cecha oznacza i jak została oceniona
- Raporty rozmów: Oceny AI powołują się na konkretne odpowiedzi kandydatów i wyjaśniają podstawę każdej oceny
- Listy krótkie: Uzasadnienie rankingu wyjaśnia rozkład wagi i kluczowe różnice między kandydatami
2.3 Dokumentacja Systemu
Utrzymujemy kompleksową dokumentację techniczną naszych systemów AI, w tym ich zamierzony cel, możliwości, ograniczenia i znane ryzyka.
3. Nadzór Człowieka (Artykuł 14)
Scovai jest zaprojektowany jako system wspomagający decyzje, a nie system podejmujący decyzje. Nadzór człowieka jest wbudowany w architekturę platformy:
- Brak autonomicznych decyzji zatrudnieniowych: Wyniki AI są przedstawiane jako rekomendacje. Rekruterzy zatwierdzają, walidują i podejmują wszystkie ostateczne decyzje.
- Możliwość zmiany: Rekruterzy mogą przesłonić, dostosować lub odrzucić każdy wynik wygenerowany przez AI, klasyfikację lub rekomendację.
- Żądania przeglądu przez człowieka: Zarówno kandydaci, jak i rekruterzy mogą zażądać formalnego przeglądu przez człowieka dowolnej decyzji AI za pośrednictwem modułu zgodności. Żądania są śledzane i audytowane.
- Kontrola funkcji AI: Administratorzy dzierżawcy mogą włączać lub wyłączać poszczególne funkcje AI w dowolnym momencie.
- Konfigurowane wagi: Wagi oceny we wszystkich wymiarach można konfigurować przez organizację, zapewniając, że zachowanie AI zgodne z zdefiniowanymi przez ludzi priorytetami.
4. Zarządzanie Danymi (Artykuł 10)
Nasze systemy AI podlegają ścisłym praktykom jakości danych i zarządzania:
- Dane treningowe: Nie używamy indywidualnych danych kandydatów do trenowania lub dostrajania modeli AI. Nasi dostawcy AI przetwarzają dane API na podstawie umów powierzenia przetwarzania, które wykluczają ich użycie do trenowania modeli dostawców.
- Jakość danych: Parsowanie CV zawiera sprawdzenia walidacji. Wejścia oceny są weryfikowane w stosunku do strukturyzowanych wymagań stanowiska.
- Minimalizacja danych: Systemy AI otrzymują tylko dane niezbędne do ich konkretnego zadania.
5. Dokładność, Niezawodność i Cyberbezpieczeństwo (Artykuł 15)
- Dokładność: Ocena AI jest weryfikowana w stosunku do strukturyzowanych wymagań z konfigurowalnymi progami. Uzasadnienie wyjaśnialności pozwala rekrutującym na weryfikację podstawy każdego wyniku.
- Niezawodność: Systemy AI zawierają ochronę czasowa, logikę ponawiania i routing rezerwowy do alternatywnych modeli, jeśli model podstawowy jest niedostępny.
- Cyberbezpieczeństwo: Infrastruktura aplikacji i przechowywanie danych działają na naszych własnych serwerach w EOG. Wywołania modeli AI są kierowane przez centralnie skonfigurowanych, audytowanych dostawców (Anthropic, OpenAI) na podstawie umów powierzenia przetwarzania. Klucze API są szyfrowane (AES-256 (GCM/CBC)), a cała komunikacja używa szyfrowania TLS.
6. Zapobieganie Odchyleniom i Dyskryminacji (Artykuł 10(2)(f))
Scovai wdraża proaktywne monitorowanie i łagodzenie odchyleń:
- Automatyczna analiza odchyleń: Moduł analityki zawiera monitorowanie odchyleń, które śledzi wzorce oceny AI w grupach demograficznych (płeć, wiek)
- Analiza rozkładu wyników: Rekruterzy mogą wyświetlać rozkłady wyników w celu zidentyfikowania potencjalnych systematycznych odchyleń
- Ocena konfigurowana: Wymiary oceny i wagi są przejrzyste i regulowane, zapobiegając ukrytemu wzmacnianiu odchyleń
- Wyjaśnialność: Dostarczając jasne uzasadnienie każdego wyniku, odchylone rozumowanie może być zidentyfikowane i naprawione
To monitorowanie obejmuje lejek rekrutacyjny. Obecnie nie obejmuje wyników pracy Digital Employees, ocen okresowych ani ocen kultury organizacyjnej.
7. Prowadzenie Rejestrów i Ścieżka Audytu (Artykuł 12)
Scovai prowadzi kompleksowe dzienniki i rekordy:
- Dziennik audytu: Każda akcja platformy (wynik wygenerowany, kandydat oceniony, lista krótka utworzona, decyzja podjęta) jest zapisywana z uczestnikiem, czasem i szczegółami
- Strukturyzowane logowanie: Dzienniki systemowe przechwytują zdarzenia przetwarzania AI z poziomami ważności, kategoriami, identyfikatorami śledzenia i metryki czasu trwania
- Przechowywanie: Dzienniki krytyczne i błędy są przechowywane w działającym systemie przez 365 dni, a dzienniki standardowe przez 30-90 dni w zależności od ważności. Każdy wiersz jest zapisywany w skompresowanym pliku archiwum, zanim zostanie usunięty z działającego systemu; te pliki archiwum są przechowywane do czasu usunięcia ich przez administratora.
- Export: Dane audytu mogą być eksportowane do przeglądu regulacyjnego
8. Rejestracja i Zgodność
Jako dostawca oraz, na własny użytek, podmiot stosujący systemy AI wysokiego ryzyka w obszarze zatrudnienia, mamy następujące obowiązki:
- Rejestracja systemów AI wysokiego ryzyka w bazie danych UE zgodnie z Artykułem 49. Ta rejestracja nie została jeszcze dokonana. Odnotujemy tu jej status, gdy to nastąpi.
- Prowadzenie dokumentacji oceny zgodności
- Współpraca z właściwymi organami krajowymi i organami nadzoru rynku
- Zgłaszanie poważnych incydentów zgodnie z Artykułem 73
Dwa kolejne obowiązki spoczywają na Dzierżawcy jako podmiocie stosującym i wymieniamy je tutaj, zamiast pozostawiać je domyślnymi. Artykuł 26 wymaga nadzoru ludzkiego sprawowanego przez osoby mające kompetencje do jego wykonywania, a Artykuł 4 wymaga, aby pracownicy korzystający z tych systemów mieli wystarczające kompetencje w zakresie AI. Jeżeli podmiotem stosującym jest podmiot prawa publicznego albo ocenia on zdolność kredytową lub ustala ceny ubezpieczeń na życie i zdrowotnych, Artykuł 27 wymaga także oceny skutków dla praw podstawowych. Obecnie nie udostępniamy wzorów żadnego z tych dokumentów; podział odpowiedzialności określa punkt 5.2 Regulaminu dla Firm.
8A. Digital Employees i funkcje dotyczące pracowników
Digital Employee, który selekcjonuje, szereguje lub prowadzi rozmowy z kandydatami, jest systemem AI wysokiego ryzyka w rozumieniu załącznika III punkt 4(a), tak samo jak funkcje rekrutacyjne z sekcji 1, i jest objęty sekcjami od 2 do 7.
Scovai stosuje AI także wobec osób już zatrudnionych: podsumowania ocen okresowych i rocznych, plany rozwoju, oceny kultury i wdrożenia, podsumowania check-inów oraz karty kompetencji. Załącznik III punkt 4(b) obejmuje AI przeznaczoną do decyzji o awansie lub zwolnieniu, do przydzielania zadań na podstawie zachowania lub cech osobistych oraz do monitorowania i oceny wyników pracy. Gdy Tenant używa tych wyników do takich decyzji, wchodzą one w ten punkt; nasz Regulamin już stwierdza, że ocena wyników i przydzielanie zadań to zastosowania wysokiego ryzyka.
W platformie te wyniki mają charakter doradczy. Liczby w karcie kompetencji wylicza deterministyczny wzór, a nie model; model pisze wyłącznie warstwę jakościową, a gdy się nie powiedzie, karta trafia do odbiorcy z samymi liczbami. Sygnały integralności nigdy same nie odrzucają kandydata. Tenant jako podmiot stosujący pozostaje odpowiedzialny za nadzór ludzki, za poinformowanie pracowników i ich przedstawicieli oraz za każdą ocenę skutków wymaganą przez prawo krajowe.
Digital Employees są oznaczeni jako AI wewnątrz Scovai i przedstawiają się jako AI przy pierwszym kontakcie; Regulamin opisuje, jak przedstawiają się osobom z zewnątrz.
9. Prawa Kandydatów Zgodnie z Ustawą UE o AI
Jako osoba objęta systemami AI Scovai, masz prawo do:
- Bycia poinformowanym że system AI jest używany w procesie rekrutacji
- Otrzymania wyjaśnienia jak oceny AI, wyniki i rankingi zostały wygenerowane
- Żądania przeglądu przez człowieka dowolnej decyzji wygenerowanej przez AI
- Złożenia skargi do właściwego organu krajowego, jeśli masz wątpliwości, że system AI został użyty w sposób niezgodny z prawem
10. Kontakt
Pytania dotyczące naszej zgodności z Ustawą UE o AI lub zgłoszenie obaw dotyczących podejmowania decyzji AI:
Email: [email protected]
