Scovai는 EU 인공지능 규정 (EU) 2024/1689 범위에 속하는 AI 기반 채용 플랫폼을 운영하고 있습니다. 채용 및 고용에 사용되는 AI 시스템은 부록 III, 섹션 4(a)에 따라 고위험으로 분류됩니다. 이 문서는 Scovai가 EU AI Act 요구사항을 어떻게 충족하는지 설명합니다.
1. 위험 분류
다음 Scovai AI 기능은 EU AI Act에 따라 고위험 AI 시스템으로 분류됩니다:
- AI 후보자 점수 매김: 여러 차원에 걸친 자동화된 후보자 점수 매김 (기술 기술, 경험, 교육, 소프트 스킬, 잠재력)
- AI 쇼트리스트 생성: 직무에 대한 자동화된 후보자 순위 및 권장사항
- 심리측정 프로파일링: AI 생성 성격 프로필 (Big Five), 문화 적합성 평가, 리더십 스타일 평가
- AI 인터뷰 에이전트: 자연 언어 처리를 사용한 자동화된 인터뷰 진행 및 평가
다음 기능은 제한적 위험으로 간주되며 투명성 의무만 받습니다:
- CV 파싱: 업로드된 문서에서 구조화된 데이터 추출
- 직무설명 생성: 최소 입력에서 AI 보조 직무설명 생성
- 기술 평가 생성: AI 생성 직무별 테스트 문제
2. 투명성 (제13조)
Scovai는 AI 처리의 모든 수준에서 투명성을 제공합니다:
2.1 상호작용 투명성
후보자는 AI 시스템과 상호작용할 때 정보를 받습니다. AI 인터뷰 에이전트는 자신을 AI로 명확하게 식별하며, 모든 AI 생성 콘텐츠(점수, 평가, 보고서)는 플랫폼 전체에서 이렇게 표시됩니다.
2.2 결과 설명 가능성
모든 AI 결과에는 인간이 읽을 수 있는 설명이 포함됩니다:
- 점수 매김: 각 점수 차원에는 기여한 요소, 적용된 조정 및 이유를 설명하는 XAI 근거가 포함됩니다.
- 심리측정 프로필: 결과에는 각 특성의 의미와 평가 방식에 대한 설명이 포함됩니다.
- 인터뷰 보고서: AI 평가는 특정 후보자 응답을 인용하고 각 평가의 기초를 설명합니다.
- 쇼트리스트: 순위 근거는 가중치 분포 및 후보자 간의 주요 차별 요소를 설명합니다.
2.3 시스템 문서화
우리는 의도된 목적, 기능, 제한 사항 및 알려진 위험을 포함하여 AI 시스템의 포괄적인 기술 문서를 유지합니다.
3. 인간 감시 (제14조)
Scovai는 의사결정 지원 시스템으로 설계되었으며, 의사결정 시스템이 아닙니다. 인간 감시는 플랫폼 아키텍처에 내장됩니다:
- 자동화된 채용 결정 없음: AI 결과는 권장사항으로 제시됩니다. 인간 채용담당자는 모든 최종 결정을 검토, 검증 및 결정합니다.
- 무시 기능: 채용담당자는 모든 AI 생성 점수, 순위 또는 권장사항을 무시, 조정 또는 폐기할 수 있습니다.
- 인간 검토 요청: 후보자와 채용담당자 모두 규정 준수 모듈을 통해 모든 AI 결정에 대한 공식 인간 검토를 요청할 수 있습니다. 요청은 추적되고 감시됩니다.
- AI 기능 제어: 테넌트 관리자는 언제든지 개별 AI 기능을 활성화 또는 비활성화할 수 있습니다.
- 구성 가능한 가중치: 모든 차원의 점수 가중치는 구성 가능하며, AI 동작이 인간이 정의한 우선순위와 일치하도록 합니다.
4. 데이터 거버넌스 (제10조)
우리의 AI 시스템은 엄격한 데이터 품질 및 거버넌스 관행에 의해 관리됩니다:
- 학습 데이터: 우리는 AI 모델을 학습하거나 미세 조정하기 위해 개별 후보자 데이터를 사용하지 않습니다. 우리의 로컬 호스팅 모델은 추론에만 사용되는 사전 학습된 오픈 가중치 모델이며, EU 내 우리 자신의 인프라에서 실행됩니다.
- 데이터 품질: CV 파싱에는 검증 검사가 포함됩니다. 점수 입력은 구조화된 직무 요구사항에 대해 검증됩니다.
- 데이터 최소화: AI 시스템은 특정 작업에 필요한 데이터만 수신합니다.
5. 정확성, 견고성 및 사이버보안 (제15조)
- 정확성: AI 점수는 구성 가능한 임계값으로 구조화된 요구사항에 대해 검증됩니다. 설명 가능성 근거를 통해 채용담당자는 각 점수의 기초를 확인할 수 있습니다.
- 견고성: AI 시스템에는 타임아웃 보호, 재시도 로직 및 기본 모델을 사용할 수 없는 경우 대체 모델로 라우팅하는 폴백이 포함됩니다.
- 사이버보안: 모든 AI 인프라는 EEA 내의 온프레미스에 호스팅됩니다. API 키는 암호화되고 (AES-256-CBC), 모든 외부 통신은 TLS 암호화를 사용합니다.
6. 편향 및 차별 방지 (제10조(2)(f))
Scovai는 사전 편향 모니터링 및 완화를 구현합니다:
- 자동 편향 분석: 분석 모듈에는 인구통계학적 그룹(성별, 연령)에 걸친 AI 점수 패턴을 추적하는 편향 모니터링이 포함됩니다.
- 점수 분포 분석: 채용담당자는 잠재적인 체계적 편향을 식별하기 위해 점수 분포를 볼 수 있습니다.
- 구성 가능한 점수: 점수 차원과 가중치는 투명하고 조정 가능하며, 숨겨진 편향 증폭을 방지합니다.
- 설명 가능성: 모든 점수에 대한 명확한 근거를 제공함으로써 편향된 추론을 식별하고 해결할 수 있습니다.
7. 기록 보관 및 감사 추적 (제12조)
Scovai는 포괄적인 로그 및 기록을 유지합니다:
- 감사 로그: 모든 플랫폼 작업(점수 생성, 후보자 평가, 쇼트리스트 생성, 결정 내림)은 행위자, 타임스탐프 및 세부 정보로 기록됩니다.
- 구조화된 로깅: 시스템 로그는 심각도 수준, 범주, 추적 ID 및 기간 메트릭을 사용하여 AI 처리 이벤트를 캡처합니다.
- 보존: 중요 및 오류 로그는 365일 동안 보존됩니다. 심각도에 따라 표준 로그는 30-90일 동안 보존됩니다.
- 내보내기: 감사 데이터는 규제 검토를 위해 내보낼 수 있습니다.
8. 등록 및 적합성
고위험 AI 시스템의 배포자 및 제공자로서, 우리는 다음을 수행하기로 약속합니다:
- 제18조에 필요한 대로 EU 데이터베이스에 고위험 AI 시스템을 등록합니다.
- 적합성 평가 문서를 유지합니다.
- 국가 관할 기관 및 시장 감시 기관과 협력합니다.
- 제62조에 따라 심각한 사건을 보고합니다.
9. EU AI Act에 따른 후보자 권리
Scovai의 AI 시스템의 영향을 받는 개인으로서, 다음 권리를 가집니다:
- 알 권리 AI 시스템이 채용 프로세스에서 사용되고 있음
- 설명을 받을 권리 AI 평가, 점수 및 순위가 어떻게 생성되었는지
- 인간 검토를 요청할 권리 모든 AI 생성 결정에 대해
- 불만을 제기할 권리 AI 시스템이 비준수 방식으로 사용되었다고 생각하는 경우 관련 국가 기관에
10. 문의
EU AI Act 준수 또는 AI 의사결정 관련 우려 사항에 대한 질문:
이메일: compliance@scovai.com
