Scovai는 EU 인공지능 규정 (EU) 2024/1689 범위에 속하는 AI 기반 채용 플랫폼을 운영하고 있습니다. 채용 및 고용에 사용되는 AI 시스템은 부록 III, 섹션 4(a)에 따라 고위험으로 분류됩니다. 이 문서는 Scovai가 EU AI Act 요구사항을 어떻게 충족하는지 설명합니다.
1. 위험 분류
다음 Scovai AI 기능은 EU AI Act에 따라 고위험 AI 시스템으로 분류됩니다:
- AI 후보자 점수 매김: 여러 차원에 걸친 자동화된 후보자 점수 매김 (기술 기술, 경험, 교육, 소프트 스킬, 잠재력)
- AI 쇼트리스트 생성: 직무에 대한 자동화된 후보자 순위 및 권장사항
- 심리측정 프로파일링: AI 생성 성격 프로필 (Big Five), 문화 적합성 평가, 리더십 스타일 평가
- AI 인터뷰 에이전트: 자연 언어 처리를 사용한 자동화된 인터뷰 진행 및 평가
다음 기능은 제한적 위험으로 간주되며 투명성 의무만 받습니다:
- CV 파싱: 업로드된 문서에서 구조화된 데이터 추출
- 직무설명 생성: 최소 입력에서 AI 보조 직무설명 생성
- 기술 평가 생성: AI 생성 직무별 테스트 문제
2. 투명성 (제13조)
Scovai는 AI 처리의 모든 수준에서 투명성을 제공합니다:
2.1 상호작용 투명성
후보자는 AI 시스템과 상호작용할 때 정보를 받습니다. AI 인터뷰 에이전트는 자신을 AI로 명확하게 식별하며, 모든 AI 생성 콘텐츠(점수, 평가, 보고서)는 플랫폼 전체에서 이렇게 표시됩니다.
2.2 결과 설명 가능성
모든 AI 결과에는 인간이 읽을 수 있는 설명이 포함됩니다:
- 점수 매김: 각 점수 차원에는 기여한 요소, 적용된 조정 및 이유를 설명하는 XAI 근거가 포함됩니다.
- 심리측정 프로필: 결과에는 각 특성의 의미와 평가 방식에 대한 설명이 포함됩니다.
- 인터뷰 보고서: AI 평가는 특정 후보자 응답을 인용하고 각 평가의 기초를 설명합니다.
- 쇼트리스트: 순위 근거는 가중치 분포 및 후보자 간의 주요 차별 요소를 설명합니다.
2.3 시스템 문서화
우리는 의도된 목적, 기능, 제한 사항 및 알려진 위험을 포함하여 AI 시스템의 포괄적인 기술 문서를 유지합니다.
3. 인간 감시 (제14조)
Scovai는 의사결정 지원 시스템으로 설계되었으며, 의사결정 시스템이 아닙니다. 인간 감시는 플랫폼 아키텍처에 내장됩니다:
- 자동화된 채용 결정 없음: AI 결과는 권장사항으로 제시됩니다. 인간 채용담당자는 모든 최종 결정을 검토, 검증 및 결정합니다.
- 무시 기능: 채용담당자는 모든 AI 생성 점수, 순위 또는 권장사항을 무시, 조정 또는 폐기할 수 있습니다.
- 인간 검토 요청: 후보자와 채용담당자 모두 규정 준수 모듈을 통해 모든 AI 결정에 대한 공식 인간 검토를 요청할 수 있습니다. 요청은 추적되고 감시됩니다.
- AI 기능 제어: 테넌트 관리자는 언제든지 개별 AI 기능을 활성화 또는 비활성화할 수 있습니다.
- 구성 가능한 가중치: 모든 차원의 점수 가중치는 구성 가능하며, AI 동작이 인간이 정의한 우선순위와 일치하도록 합니다.
4. 데이터 거버넌스 (제10조)
우리의 AI 시스템은 엄격한 데이터 품질 및 거버넌스 관행에 의해 관리됩니다:
- 학습 데이터: 우리는 AI 모델을 학습하거나 미세 조정하기 위해 개별 후보자 데이터를 사용하지 않습니다. 우리의 당사의 AI 제공자는 모델 학습에의 사용을 배제하는 데이터 처리 계약 하에 API 데이터를 처리합니다.
- 데이터 품질: CV 파싱에는 검증 검사가 포함됩니다. 점수 입력은 구조화된 직무 요구사항에 대해 검증됩니다.
- 데이터 최소화: AI 시스템은 특정 작업에 필요한 데이터만 수신합니다.
5. 정확성, 견고성 및 사이버보안 (제15조)
- 정확성: AI 점수는 구성 가능한 임계값으로 구조화된 요구사항에 대해 검증됩니다. 설명 가능성 근거를 통해 채용담당자는 각 점수의 기초를 확인할 수 있습니다.
- 견고성: AI 시스템에는 타임아웃 보호, 재시도 로직 및 기본 모델을 사용할 수 없는 경우 대체 모델로 라우팅하는 폴백이 포함됩니다.
- 사이버보안: 플랫폼과 데이터베이스는 EEA 내 당사 자체 서버에서 운영됩니다. Digital Employee 런타임은 개인정보 보호정책과 DPA에 설명된 대로 그 밖에 있는 당사 자체 서버에서 운영됩니다. AI 모델 호출은 데이터 처리 계약 하에 중앙에서 구성되고 감사되는 제공자(Anthropic, OpenAI)를 통해 라우팅됩니다. API 키는 저장 시 AES-256으로 암호화되며(제공자 키는 CBC, Digital Employee 자격증명은 GCM), 모든 통신은 TLS 1.2 또는 1.3을 사용합니다.
6. 편향 및 차별 방지 (제10조(2)(f))
Scovai는 사전 편향 모니터링 및 완화를 구현합니다:
- 자동 편향 분석: 분석 모듈에는 인구통계학적 그룹(성별, 연령)에 걸친 AI 점수 패턴을 추적하는 편향 모니터링이 포함됩니다.
- 점수 분포 분석: 채용담당자는 잠재적인 체계적 편향을 식별하기 위해 점수 분포를 볼 수 있습니다.
- 구성 가능한 점수: 점수 차원과 가중치는 투명하고 조정 가능하며, 숨겨진 편향 증폭을 방지합니다.
- 설명 가능성: 모든 점수에 대한 명확한 근거를 제공함으로써 편향된 추론을 식별하고 해결할 수 있습니다.
이 모니터링은 채용 퍼널을 대상으로 합니다. 현재 Digital Employee의 산출물, 성과 평가 또는 문화 평가로는 확장되지 않습니다.
7. 기록 보관 및 감사 추적 (제12조)
Scovai는 포괄적인 로그 및 기록을 유지합니다:
- 감사 로그: 모든 플랫폼 작업(점수 생성, 후보자 평가, 쇼트리스트 생성, 결정 내림)은 행위자, 타임스탐프 및 세부 정보로 기록됩니다.
- 구조화된 로깅: 시스템 로그는 심각도 수준, 범주, 추적 ID 및 기간 메트릭을 사용하여 AI 처리 이벤트를 캡처합니다.
- 보존: 중요 및 오류 로그는 라이브 시스템에서 365일 동안, 표준 로그는 심각도에 따라 30-90일 동안 보존됩니다. 각 행은 라이브 시스템에서 삭제되기 전에 압축 아카이브 파일에 기록되며, 이 아카이브 파일은 관리자가 제거할 때까지 보관됩니다.
- 내보내기: 감사 데이터는 규제 검토를 위해 내보낼 수 있습니다.
8. 등록 및 적합성
고용 분야 고위험 AI 시스템의 제공자이자, 당사 자체 사용에 대해서는 배포자로서, 당사의 의무는 다음과 같습니다:
- 제49조에 따른 EU 데이터베이스에의 고위험 AI 시스템 등록. 이 등록은 아직 이루어지지 않았습니다. 등록되면 그 상태를 이곳에 기록하겠습니다.
- 적합성 평가 문서 유지
- 국가 관할 기관 및 시장 감시 기관과의 협력
- 제73조에 따른 중대한 사고 보고
두 가지 의무는 배포자인 테넌트에게 있으며, 암묵적으로 남겨 두지 않고 여기에 밝힙니다. 제26조는 이를 수행할 역량을 갖춘 사람에 의한 인간 감독을 요구하고, 제4조는 이러한 시스템을 사용하는 직원이 충분한 AI 리터러시를 갖출 것을 요구합니다. 배포자가 공법의 적용을 받는 기관이거나 신용도 또는 생명·건강 보험료를 평가하는 경우, 제27조는 기본권 영향 평가도 요구합니다. 당사는 현재 둘 중 어느 것에 대해서도 템플릿을 제공하지 않으며, 책임 분담은 기업 서비스 약관 제5.2조에 정해져 있습니다.
8A. Digital Employees와 임직원 대상 기능
후보자를 선별하거나 순위를 매기거나 면접하는 Digital Employee는 부속서 III 제4항 (a)에 따른 고위험 AI 시스템이며, 제1절의 채용 기능과 같은 지위로 제2절부터 제7절까지의 적용을 받습니다.
Scovai는 이미 고용된 사람에게도 AI를 사용합니다. 성과 및 연말 리뷰 요약, 성장 계획, 문화와 온보딩 평가, 체크인 요약, 역량 스코어카드가 그것입니다. 부속서 III 제4항 (b)는 승진이나 해고 결정, 행동이나 개인적 특성에 기반한 업무 배분, 성과의 모니터링과 평가에 사용되는 AI를 포함합니다. Tenant가 이러한 결과물을 그런 결정에 사용하면 해당 항에 들어가며, 당사 약관은 이미 성과 평가와 업무 배분이 고위험 용도라고 명시하고 있습니다.
플랫폼에서 이러한 결과물은 참고용입니다. 역량 스코어카드의 수치는 모델이 아니라 결정적 공식이 계산하며, 모델은 정성적 서술만 작성하고 실패하면 수치만으로 스코어카드가 나갑니다. 무결성 신호가 단독으로 후보자를 탈락시키는 일은 없습니다. Tenant는 배포자로서 사람에 의한 감독, 근로자와 그 대표에 대한 통지, 그리고 자국 법이 요구하는 영향평가에 대한 책임을 계속 집니다.
Digital Employees는 Scovai 안에서 AI로 표시되며 첫 접촉에서 스스로를 AI라고 밝힙니다. 제3자에게 어떻게 신분을 밝히는지는 약관에 설명되어 있습니다.
9. EU AI Act에 따른 후보자 권리
Scovai의 AI 시스템의 영향을 받는 개인으로서, 다음 권리를 가집니다:
- 알 권리 AI 시스템이 채용 프로세스에서 사용되고 있음
- 설명을 받을 권리 AI 평가, 점수 및 순위가 어떻게 생성되었는지
- 인간 검토를 요청할 권리 모든 AI 생성 결정에 대해
- 불만을 제기할 권리 AI 시스템이 비준수 방식으로 사용되었다고 생각하는 경우 관련 국가 기관에
10. 문의
EU AI Act 준수 또는 AI 의사결정 관련 우려 사항에 대한 질문:
이메일: [email protected]
