Scovai מופעלת על ידי פלטפורמת גיוס מופעלת בבינה מלאכותית אשר נכנסת בתוך ההיקף של חוק הבינה המלאכותית של EU (תקנה (EU) 2024/1689). מערכות בינה מלאכותית המשמשות בגיוס והעסקה סווגות כ-בעלות סיכון גבוה תחת נספח III, סעיף 4(א). מסמך זה מתאר כיצד Scovai עומדת בדרישות חוק בינה מלאכותית של EU.
1. סיווג סיכון
תכונות בינה מלאכותית ב-Scovai הבאות סווגות כמערכות בינה מלאכותית בעלות סיכון גבוה תחת חוק בינה מלאכותית של EU:
- ניקוד מועמד בינה מלאכותית: ניקוד אוטומטי של מועמדים על פני מימדים מרובים (כישרונות טכניים, ניסיון, חינוך, כישרונות רכים, פוטנציאל)
- יצור רשימה קצרה בינה מלאכותית: דירוג אוטומטי והמלצה של מועמדים לעמדות
- פרופיל פסיכומטרי: פרופילי אישיות שנוצרו בבינה מלאכותית (Big Five), הערכות התאמה תרבות, והערכות סגנון הנהגה
- סוכן ראיון בינה מלאכותית: ניהול ראיון אוטומטי והערכה באמצעות עיבוד שפה טבעית
התכונות הבאות נחשבות בעלות סיכון מוגבל וכפופות לחובות שקיפות בלבד:
- ניתוח קורות חיים: חילוץ נתונים מובנים מ מסמכים שהועלו
- יצור תאור משרה: יצירה בעזרת בינה מלאכותית של תיאורי משרה מקלט מינימלי
- יצור הערכה טכנית: שאלות בדיקה בעלות סיכון לתפקיד שנוצרו בבינה מלאכותית
2. שקיפות (סעיף 13)
Scovai מספקת שקיפות בכל רמה של עיבוד בינה מלאכותית:
2.1 שקיפות אינטראקציה
מועמדים מיודעים כאשר הם מתקשרים עם מערכת בינה מלאכותית. סוכן הראיון של בינה מלאכותית מזהה עצמו בבהירות כבינה מלאכותית, וכל תוכן שנוצר על ידי בינה מלאכותית (ניקוד, הערכות, דוחות) מסומן ככזה בכל הפלטפורמה.
2.2 הסברה של פלט
כל פלט בינה מלאכותית כולל הסברים קריאים לאדם:
- ניקוד: כל ממד ניקוד כולל הנמקה XAI המסבירה אילו גורמים תרמו, אילו התאמות הוחלו, ולמה
- פרופילים פסיכומטריים: תוצאות כוללות תיאורים של מה כל תכונה אומרת וכיצד היא הוערכה
- דוחות ראיון: הערכות בינה מלאכותית מצטטות תגובות מועמד ספציפיות והסבר את הבסיס לכל הערכה
- רשימות קצרות: הנמקת דירוג מסבירה את התפלגות המשקל וממיינות מוגדלות בין מועמדים
2.3 תיעוד מערכת
אנחנו שומרות תיעוד טכני מקיף של מערכות בינה מלאכותית שלנו, כולל הייעוד המתוכנן, יכולות, מגבלות, וסיכונים ידועים שלהם.
3. פיקוח אנושי (סעיף 14)
Scovai תוכננה כ-מערכת תמיכה בהחלטות, לא מערכת קבלת החלטות. פיקוח אנושי משובצות בתוך ארכיטקטורת הפלטפורמה:
- אין החלטות גיוס אוטומטיות: תפוקות בינה מלאכותית מוצגות כהמלצות. גיוס אנושי בוחנות, מאמתות, וקובעות את כל ההחלטות הסופיות.
- יכולת עקיפה: גיוס יכול לעקוף, להתאים, או להחליש כל ניקוד, דירוג, או המלצה שנוצרה בבינה מלאכותית.
- בקשות ביקורת אנושית: שוכרים ומועמדים יכולים להגיש בקשה לביקורת אנושית פורמלית של כל החלטה בינה מלאכותית דרך מודול הציות. בקשות עוקבות ומבוקרות.
- בקרות תכונה בינה מלאכותית: מנהלי שוכרים יכולים להפעיל או להשבית תכונות בינה מלאכותית בודדות בכל עת.
- משקלות ניקוד ניתנים להגדרה: משקלות ניקוד על פני כל מימדים ניתנים להגדרה על ידי הארגון, הבטיחה שהתנהגות בינה מלאכותית עומדת בהעדפות שהוגדרו באדם.
4. שלטון נתונים (סעיף 10)
מערכות בינה מלאכותית שלנו מנוהלות על ידי שלטון נתונים וקואליטציה נתונים קשיים:
- נתוני הכשרה: אנחנו לא משתמשים בנתונים אישיים של מועמדים בודדים כדי להכשיר או לכוונן מודלי בינה מלאכותית. ספקי ה-AI שלנו מעבדים נתוני API במסגרת הסכמי עיבוד נתונים השוללים את השימוש בהם לאימון המודלים שלהם.
- איכות נתונים: ניתוח קורות חיים כולל בדיקות אימות. קלט ניקוד מאומת כנגד דרישות עמדה מובנות.
- מזעור נתונים: מערכות בינה מלאכותית קבלות רק נתונים הכרחיים לתפקידים ספציפיים שלהם.
5. דיוק, חוסן, וסייברביטחון (סעיף 15)
- דיוק: ניקוד בינה מלאכותית מאומת כנגד דרישות מובנות עם סיפי ניתנים להגדרה. הנמקה הסברה מאפשרת לגיוס אנושי לאמת את הבסיס של כל ניקוד.
- חוסן: מערכות בינה מלאכותית כוללות הגנות טיימאוט, לוגיקת נסיון חוזר, וניתוב חילופין למודלים אלטרנטיביים אם מודל ראשוני אינו זמין.
- סייברביטחון: תשתית האפליקציה ואחסון הנתונים פועלים בשרתים שלנו בתוך EEA. קריאות למודלי AI מנותבות דרך ספקים שמוגדרים מרכזית ומפוקחים (Anthropic, OpenAI) במסגרת הסכמי עיבוד נתונים. מפתחות API מוצפנים (AES-256 (GCM/CBC)), וכל תקשורת משתמשת בהצפנה TLS.
6. מניעת הטיה והבחנה (סעיף 10(2)(f))
Scovai מיישמת ניטור הטיה ותיקון פעיל:
- ניתוח הטיה אוטומטי: מודול הניתוח כולל ניטור הטיה העוקב אחר דפוסי ניקוד בינה מלאכותית על פני קבוצות דמוגרפיות (מין, גיל)
- ניתוח התפלגות ניקוד: גיוס יכול לראות התפלגות ניקוד כדי לזהות הטיות סיסטמטיות פוטנציאליות
- ניקוד ניתן להגדרה: ממדי ניקוד והרעיונות משקלות שקופים וניתנים להתאמה, מונעת הגברת הטיה נסתרת
- הסברה: על ידי ספקת הנמקה ברורה לכל ניקוד, הנמקה מוטה יכולה להיות מזוהת ותיתבעה
ניטור זה מכסה את משפך הגיוס. כיום הוא אינו חל על התוצרים של Digital Employee, על דירוגי ביצועים או על הערכות תרבות.
7. שמירת תיקייה והצמדת ביקורת (סעיף 12)
Scovai שומרת על רישומים וערמונים מקיפים:
- יומן ביקורת: כל פעולת פלטפורמה (ניקוד שנוצר, מועמד מוערך, רשימה קצרה שנוצרה, החלטה קבוצתית) נרשמת עם שחקן, חותמת זמן, ופרטים
- רישום מובנה: יומני מערכת לוכדים אירועי עיבוד בינה מלאכותית עם רמות חומרות, קטגוריות, מזהה עקיבה, ומדדי משך
- שמירה: יומנים קריטיים וחריגים מוחזקים במשך 365 יום במערכת החיה, ויומנים סטנדרטיים 30-90 ימים בהתאם לחומרה. כל רשומה נכתבת לקובץ ארכיון דחוס לפני שהיא נמחקת מהמערכת החיה; קובצי ארכיון אלה נשמרים עד שמנהל מערכת מסיר אותם.
- ייצוא: נתונים ביקורת יכולים להיות מיוצאים לביקורת רגולטורית
8. הרשמה ועמידה בעמודים
כספק של מערכות בינה מלאכותית בסיכון גבוה בתחום ההעסקה, וכמפעיל שלהן לשימושנו העצמי, אלה החובות שלנו:
- רישום מערכות בינה מלאכותית בסיכון גבוה בבסיס הנתונים של EU לפי סעיף 49. רישום זה טרם בוצע. נציין כאן את מצבו כאשר יבוצע.
- שמירה על תיעוד הערכת עמידות
- שיתוף פעולה עם רשויות מוסמכות לאומיות וגופי פיקוח שוק
- דיווח על אירועים חמורים בהתאם לסעיף 73
שתי חובות נוספות חלות על ה-Tenant כמפעיל, ואנחנו מציינים אותן כאן במקום להשאיר אותן משתמעות. סעיף 26 מחייב פיקוח אנושי בידי אנשים בעלי הכשירות להפעיל אותו, וסעיף 4 מחייב שלצוות המשתמש במערכות אלה תהיה אוריינות AI מספקת. כאשר המפעיל הוא גוף הכפוף למשפט הציבורי, או מעריך כושר אשראי או תמחור של ביטוח חיים ובריאות, סעיף 27 מחייב גם הערכת השפעה על זכויות יסוד. כיום איננו מספקים תבניות לאף אחת מהן; סעיף 5.2 של תנאי השירות לחברות קובע את חלוקת האחריות.
8A. Digital Employees ויכולות הנוגעות לעובדים
Digital Employee שמסנן, מדרג או מראיין מועמדים הוא מערכת בינה מלאכותית בסיכון גבוה לפי נספח III סעיף 4(a), בדיוק כמו יכולות הגיוס בפרק 1, והוא מכוסה בפרקים 2 עד 7.
Scovai מפעילה בינה מלאכותית גם על אנשים שכבר מועסקים: סיכומי שיחות משוב ושיחות סוף שנה, תוכניות פיתוח, הערכות תרבות וקליטה, סיכומי צ'ק-אין וכרטיסי כשירות. נספח III סעיף 4(b) מכסה בינה מלאכותית שנועדה להחלטות על קידום או סיום העסקה, להקצאת משימות על בסיס התנהגות או תכונות אישיות, ולניטור והערכה של ביצועים. כאשר Tenant משתמש בפלטים האלה להחלטות כאלה, הם נכנסים לסעיף הזה; התנאים שלנו כבר אומרים שהערכת ביצועים והקצאת משימות הם שימושים בסיכון גבוה.
בפלטפורמה הפלטים האלה הם ייעוציים. המספרים בכרטיס כשירות מחושבים בנוסחה דטרמיניסטית, לא על ידי מודל; המודל כותב רק את השכבה האיכותנית, ואם הוא נכשל הכרטיס יוצא עם המספרים בלבד. אותות היושרה לעולם אינם פוסלים מועמד בעצמם. ה-Tenant, כגורם המפעיל, נותר אחראי לפיקוח אנושי, ליידוע העובדים ונציגיהם, ולכל הערכת השפעה שהחוק הלאומי שלו דורש.
Digital Employees מסומנים כבינה מלאכותית בתוך Scovai ומציגים את עצמם ככאלה במפגש הראשון; התנאים מתארים כיצד הם מזדהים מול צדדים שלישיים.
9. זכויות מועמד תחת חוק בינה מלאכותית של EU
כאדם המושפע ממערכות בינה מלאכותית של Scovai, יש לך זכות ל:
- להיות מיודע כי מערכת בינה מלאכותית משמשת בתהליך הגיוס
- לקבל הסברה של כיצד הערכות, ניקודות, ודירוגים שנוצרו בבינה מלאכותית הופקו
- לבקש ביקורת אנושית של כל החלטה בינה מלאכותית שנוצרה
- לתלוש תלונה עם הרשות הלאומית הרלוונטית אם אתה מאמין שמערכת בינה מלאכותית הייתה בשימוש באופן חוקי שלא יתאים
10. צור קשר
לשאלות בנוגע לעמידות חוק בינה מלאכותית של EU שלנו או כדי להדיח חששות בנוגע להחלטות בינה מלאכותית:
אימייל: [email protected]
