Przejrzystość Ustawy UE o AI

Scovai obsługuje platformę rekrutacyjną zasilaną AI, która wchodzi w zakres Ustawy UE o AI (Rozporządzenie (UE) 2024/1689). Systemy AI używane w rekrutacji i zatrudnieniu są klasyfikowane jako wysokiego ryzyka zgodnie z Załącznikiem III, Sekcja 4(a). Dokument ten opisuje, jak Scovai spełnia wymagania Ustawy UE o AI.

1. Klasyfikacja Ryzyka

Następujące funkcje AI Scovai są klasyfikowane jako systemy AI wysokiego ryzyka zgodnie z Ustawą UE o AI:

AI Ocena Kandydatów: Zautomatyzowana ocena kandydatów w wielu wymiarach (umiejętności techniczne, doświadczenie, edukacja, umiejętności miękkie, potencjał)
AI Generowanie Listy Krótkiej: Zautomatyzowana klasyfikacja i rekomendacja kandydatów dla stanowisk
Profilowanie Psychometryczne: Profile osobowości generowane przez AI (Big Five), oceny dopasowania kultury i oceny stylu przywództwa
Agent AI Rozmowy: Zautomatyzowana rozmowa i ocena przy użyciu przetwarzania języka naturalnego

Następujące funkcje są uważane za o ograniczonym ryzyku i podlegają tylko zobowiązaniom dotyczącym przejrzystości:

Parsowanie CV: Ekstrakcja strukturyzowanych danych z przesłanych dokumentów
Generowanie Opisu Stanowiska: Tworzone przez AI wspomagane tworzenie opisów stanowisk z minimalnych informacji wejściowych
Generowanie Ocen Technicznych: Pytania testowe specyficzne dla roli generowane przez AI

2. Przejrzystość (Artykuł 13)

Scovai zapewnia przejrzystość na każdym poziomie przetwarzania AI:

2.1 Przejrzystość Interakcji

Kandydaci są informowani, gdy wchodzą w interakcję z systemem AI. Agent AI Rozmowy wyraźnie się identyfikuje jako AI, a cała zawartość generowana przez AI (wyniki, oceny, raporty) jest oznaczona jako taka na całej platformie.

2.2 Wyjaśnialność Wyników

Każdy wynik AI zawiera wyjaśnienia czytelne dla człowieka:

Ocena: Każdy wymiar wyniku zawiera uzasadnienie XAI wyjaśniające, które czynniki przyczyniły się, jakie dostosowania zostały dokonane i dlaczego
Profile psychometryczne: Wyniki zawierają opisy, co każda cecha oznacza i jak została oceniona
Raporty rozmów: Oceny AI powołują się na konkretne odpowiedzi kandydatów i wyjaśniają podstawę każdej oceny
Listy krótkie: Uzasadnienie rankingu wyjaśnia rozkład wagi i kluczowe różnice między kandydatami

2.3 Dokumentacja Systemu

Utrzymujemy kompleksową dokumentację techniczną naszych systemów AI, w tym ich zamierzony cel, możliwości, ograniczenia i znane ryzyka.

3. Nadzór Człowieka (Artykuł 14)

Scovai jest zaprojektowany jako system wspomagający decyzje, a nie system podejmujący decyzje. Nadzór człowieka jest wbudowany w architekturę platformy:

Brak autonomicznych decyzji zatrudnieniowych: Wyniki AI są przedstawiane jako rekomendacje. Rekruterzy zatwierdzają, walidują i podejmują wszystkie ostateczne decyzje.
Możliwość zmiany: Rekruterzy mogą przesłonić, dostosować lub odrzucić każdy wynik wygenerowany przez AI, klasyfikację lub rekomendację.
Żądania przeglądu przez człowieka: Zarówno kandydaci, jak i rekruterzy mogą zażądać formalnego przeglądu przez człowieka dowolnej decyzji AI za pośrednictwem modułu zgodności. Żądania są śledzane i audytowane.
Kontrola funkcji AI: Administratorzy dzierżawcy mogą włączać lub wyłączać poszczególne funkcje AI w dowolnym momencie.
Konfigurowane wagi: Wagi oceny we wszystkich wymiarach można konfigurować przez organizację, zapewniając, że zachowanie AI zgodne z zdefiniowanymi przez ludzi priorytetami.

4. Zarządzanie Danymi (Artykuł 10)

Nasze systemy AI podlegają ścisłym praktykom jakości danych i zarządzania:

Dane treningowe: Nie używamy indywidualnych danych kandydatów do trenowania lub dostrajania modeli AI. Nasi dostawcy AI przetwarzają dane API na podstawie umów powierzenia przetwarzania, które wykluczają ich użycie do trenowania modeli dostawców.
Jakość danych: Parsowanie CV zawiera sprawdzenia walidacji. Wejścia oceny są weryfikowane w stosunku do strukturyzowanych wymagań stanowiska.
Minimalizacja danych: Systemy AI otrzymują tylko dane niezbędne do ich konkretnego zadania.

5. Dokładność, Niezawodność i Cyberbezpieczeństwo (Artykuł 15)

Dokładność: Ocena AI jest weryfikowana w stosunku do strukturyzowanych wymagań z konfigurowalnymi progami. Uzasadnienie wyjaśnialności pozwala rekrutującym na weryfikację podstawy każdego wyniku.
Niezawodność: Systemy AI zawierają ochronę czasowa, logikę ponawiania i routing rezerwowy do alternatywnych modeli, jeśli model podstawowy jest niedostępny.
Cyberbezpieczeństwo: Infrastruktura aplikacji i przechowywanie danych działają na naszych własnych serwerach w EOG. Wywołania modeli AI są kierowane przez centralnie skonfigurowanych, audytowanych dostawców (Anthropic, OpenAI) na podstawie umów powierzenia przetwarzania. Klucze API są szyfrowane (AES-256-CBC), a cała komunikacja używa szyfrowania TLS.

6. Zapobieganie Odchyleniom i Dyskryminacji (Artykuł 10(2)(f))

Scovai wdraża proaktywne monitorowanie i łagodzenie odchyleń:

Automatyczna analiza odchyleń: Moduł analityki zawiera monitorowanie odchyleń, które śledzi wzorce oceny AI w grupach demograficznych (płeć, wiek)
Analiza rozkładu wyników: Rekruterzy mogą wyświetlać rozkłady wyników w celu zidentyfikowania potencjalnych systematycznych odchyleń
Ocena konfigurowana: Wymiary oceny i wagi są przejrzyste i regulowane, zapobiegając ukrytemu wzmacnianiu odchyleń
Wyjaśnialność: Dostarczając jasne uzasadnienie każdego wyniku, odchylone rozumowanie może być zidentyfikowane i naprawione

7. Prowadzenie Rejestrów i Ścieżka Audytu (Artykuł 12)

Scovai prowadzi kompleksowe dzienniki i rekordy:

Dziennik audytu: Każda akcja platformy (wynik wygenerowany, kandydat oceniony, lista krótka utworzona, decyzja podjęta) jest zapisywana z uczestnikiem, czasem i szczegółami
Strukturyzowane logowanie: Dzienniki systemowe przechwytują zdarzenia przetwarzania AI z poziomami ważności, kategoriami, identyfikatorami śledzenia i metryki czasu trwania
Przechowywanie: Dzienniki krytyczne i błędy są przechowywane przez 365 dni. Dzienniki standardowe przez 30-90 dni w zależności od ważności.
Export: Dane audytu mogą być eksportowane do przeglądu regulacyjnego

8. Rejestracja i Zgodność

Jako wdrażający i dostawca systemów AI wysokiego ryzyka w domenie zatrudnienia, jesteśmy zaangażowani do:

Rejestracji naszych systemów AI wysokiego ryzyka w bazie danych UE zgodnie z wymaganiami Artykułu 49
Utrzymania dokumentacji oceny zgodności
Współpracy z krajowymi organami kompetentnych i organami nadzoru rynku
Raportowania poważnych incydentów zgodnie z Artykułem 62

9. Prawa Kandydatów Zgodnie z Ustawą UE o AI

Jako osoba objęta systemami AI Scovai, masz prawo do:

Bycia poinformowanym że system AI jest używany w procesie rekrutacji
Otrzymania wyjaśnienia jak oceny AI, wyniki i rankingi zostały wygenerowane
Żądania przeglądu przez człowieka dowolnej decyzji wygenerowanej przez AI
Złożenia skargi do właściwego organu krajowego, jeśli masz wątpliwości, że system AI został użyty w sposób niezgodny z prawem

10. Kontakt

Pytania dotyczące naszej zgodności z Ustawą UE o AI lub zgłoszenie obaw dotyczących podejmowania decyzji AI:

Email: compliance@scovai.com