एक पृथक्करण पैमाने पर, जहाँ 2.0 का अर्थ है कि हर जनसांख्यिकीय समूह पूरी तरह अपने ही व्यावसायिक दायरे में सीमित कर दिया गया, मानव प्रतिभागियों ने 0.84 अंक पाए। ठीक वही कार्य करने वाले बड़े भाषा मॉडलों ने लगभग 65% अधिक अंक पाए। OpenAI के o3 ने 1.83 तक पहुँच बनाई (MIT Technology Review, 2026)।
वह पूर्वाग्रह किसी ने प्रशिक्षण में डाला नहीं था। उम्मीदवार काल्पनिक थे, जातीय समूह गढ़े हुए थे, और हर आवेदक के हर नौकरी में सफल होने की संभावना बिल्कुल बराबर थी। मॉडलों ने वह रूढ़िवादी धारणा खुद बनाई — चलते-चलते, मुट्ठी भर भर्ती परिणामों से।
यह उस समस्या से भिन्न समस्या है जिसे पकड़ने के लिए आपकी खरीद प्रक्रिया बनी है। AI स्क्रीनिंग पूर्वाग्रह, जैसा कि अधिकांश विक्रेता-जाँच उसे समझती है, विरासत में मिला होता है: विकृत प्रशिक्षण डेटा का अवशेष, तैनाती से पहले पकड़ में आने वाला, बेहतर डेटा-संग्रह और एक ऑडिट प्रमाणपत्र से ठीक हो जाने वाला। यह वाला पूर्वाग्रह ऐसा है जिसका कोई ऊपरी स्रोत है ही नहीं। यह लॉन्च के बाद बनता है, आपकी अपनी भर्ती के परिणामों की प्रतिपुष्टि से, उसी सिस्टम के भीतर जो आपकी हर पूर्व-तैनाती जाँच पास कर चुका था।
अध्ययन: साफ़ डेटा भीतर, पृथक्करण बाहर
Princeton University और University of Chicago के शोधकर्ताओं ने मानव रूढ़ि-निर्माण पर एक मनोविज्ञान प्रयोग को ढालकर उसे OpenAI, Anthropic, DeepSeek, Meta, Google और Alibaba के 15 मॉडलों पर चलाया। यह शोधपत्र जुलाई 2026 में सियोल के ICML में प्रस्तुत हुआ (Liu et al., ICML 2026)।
प्रयोग-रचना जानबूझकर निर्जीवाणु रखी गई है। हर मॉडल से कहा जाता है कि एक काल्पनिक शहर के महापौर ने उसे सलाहकार नियुक्त किया है और उसे 20 पद भरने हैं: डॉक्टर, वकील, शिशु-देखभाल सहायक, सफ़ाईकर्मी। हर दौर में एक रिक्ति और चार उम्मीदवार आते हैं — चार गढ़े हुए जातीय समूहों में से एक-एक: तुफ़ा, आइमा, रेकु, वेकी। मॉडल नियुक्ति करता है, पता चलता है कि वह व्यक्ति सफल हुआ या नहीं, और अगले दौर में बढ़ जाता है। चालीस दौर। लक्ष्य: सफल नियुक्तियाँ अधिकतम करना।
मॉडल से छिपाया गया मूल तथ्य: हर उम्मीदवार के हर नौकरी में सफल होने की संभावना समान है। खोजने को कोई संकेत है ही नहीं।
फिर भी मॉडलों ने एक संकेत खोज लिया। यह बताए जाने पर कि कोई आइमा डॉक्टर के रूप में असफल रहा, मॉडल आइमा को डॉक्टर नियुक्त करने से हटने लगता — और उन्हें सफ़ाई की भूमिकाओं की ओर भेजने लगता, जिन्हें उसने कम आत्मीयता और कम दक्षता वाली श्रेणी में रखा था (MIT Technology Review, 2026)। एक परिणाम, एक समूह, एक नौकरी। उसी से एक जाति-व्यवस्था।
लेखक इसके अर्थ पर बिल्कुल स्पष्ट हैं: LLM "कृत्रिम जनसांख्यिकीय समूहों के बारे में स्वतःस्फूर्त रूप से नए सामाजिक पूर्वाग्रह विकसित कर सकते हैं, तब भी जब कोई अंतर्निहित भेद मौजूद न हो," जो उन्हें "मानव सामाजिक पूर्वाग्रहों का महज़ निष्क्रिय दर्पण नहीं, बल्कि अनुभव से सक्रिय रूप से नए पूर्वाग्रह गढ़ सकने वाला" बना देता है (Liu et al., ICML 2026)।
जिस मॉडल ने कभी पक्षपाती डेटासेट देखा ही नहीं, वह भी पृथक्कृत कार्यबल पैदा कर सकता है। पूर्वाग्रह डेटा-संग्रह में नहीं है। वह अद्यतन-नियम में है।
आपका सर्वश्रेष्ठ प्रदर्शन करने वाला मॉडल ही सबसे जोखिम भरा है
यही वह निष्कर्ष है जिसे आपकी विक्रेता-सूची का क्रम बदल देना चाहिए। परखे गए हर मॉडल परिवार के भीतर, नए, बड़े और अधिक सक्षम रीज़निंग मॉडल अधिक पक्षपाती निकले, कम नहीं। OpenAI के o3 और DeepSeek के R1 ने उम्मीदवारों का सबसे कठोर स्तरीकरण किया।
यह तंत्र कोई खराबी नहीं है। यह क्षमता का ठीक वैसे ही काम करना है जैसा उसे डिज़ाइन किया गया। Princeton के सह-लेखक Ryan Liu इसे सीधे कहते हैं: LLM "सीमित डेटा से सामान्यीकरण गढ़ने को सचमुच उत्सुक रहते हैं। शाब्दिक रूप से, उन्हें बड़े पैमाने पर इसी के लिए अनुकूलित किया गया है" (MIT Technology Review, 2026)।
हर निर्णयकर्ता अन्वेषण बनाम दोहन के समझौते का सामना करता है: जो चला उसी पर टिके रहें, या कुछ ऐसा आज़माएँ जो शायद बेहतर चले। गणित, कोडिंग और विज्ञान की समस्याओं पर प्रशिक्षित मॉडलों को इसी के लिए पुरस्कृत किया जाता है कि वे थोड़े उदाहरणों से नियम निकालें और फिर उसे आत्मविश्वास से लागू करें। यही प्रवृत्ति उन्हें तर्क-पहेलियों में अच्छा बनाती है। किसी सामाजिक आवंटन समस्या पर मोड़ दिए जाने पर वही प्रवृत्ति पतले साक्ष्य से समयपूर्व सामान्यीकरण बन जाती है, और मॉडल उन समूहों को टटोलना बंद कर देता है जिन्हें वह पहले ही खारिज कर चुका है। स्वयं शोधकर्ताओं के शब्दों में: एक अधिक सक्षम मॉडल "किसी समूह के उम्मीदवारों को तरजीह दे सकता है यदि समान नौकरियों में पहले की नियुक्तियाँ सफल रही हों," और "यह देखने में तर्कसंगत प्रवृत्ति कुसमायोजी हो सकती है, क्योंकि इसमें अन्वेषण घटाने और अनजाने में सामाजिक समूहों को हाशिये पर धकेलने का जोखिम है" (Liu et al., ICML 2026)।
इसका परिचालन निहितार्थ खरीद की एक मानक कसौटी को उलट देता है। आपकी स्क्रीनिंग तुलना में, स्थिर बेंचमार्क पर सबसे अच्छे सटीकता-आँकड़े दर्ज करने वाला मॉडल संभवतः वही है जो जीवंत परिणामों से सीखना शुरू करते ही सबसे कठोर पृथक्करण करेगा। क्षमता और यह विफलता-प्रारूप परस्पर संबद्ध हैं, और आप इस समय केवल क्षमता के आधार पर चयन कर रहे हैं।
AI स्क्रीनिंग पूर्वाग्रह पर आपकी जाँच गलत वस्तु पर टिकी है
भर्ती में AI शासन का अधिकांश हिस्सा उन चीज़ों की जाँच करता है जो सिस्टम के आपके उम्मीदवारों से मिलने से पहले मौजूद होती हैं: प्रशिक्षण डेटा का स्रोत, मॉडल कार्ड, बेंचमार्क सेट पर निष्पक्षता के मानक, तैनाती-पूर्व इम्पैक्ट रेशियो परीक्षण, विक्रेता का SOC 2 जैसा आश्वासन पैकेज।
न्यूयॉर्क सिटी का Local Law 144 — इस क्षेत्र का सबसे अधिक नकल किया गया ढाँचा — automated employment decision tools के लिए वार्षिक, स्वतंत्र पूर्वाग्रह ऑडिट अनिवार्य करता है, जो लिंग और नस्ल/जातीयता के आधार पर चयन-दर के इम्पैक्ट रेशियो मापे, जिसमें अंतर्विभागीय विश्लेषण और ऑडिट सारांश का सार्वजनिक प्रकटीकरण भी शामिल है (Warden AI, 2026)। वार्षिक। स्वतंत्र। और एक स्थिर तस्वीर।
दौर-दर-दौर जमा होने वाले पूर्वाग्रह के लिए स्थिर तस्वीर गलत उपकरण है। अध्ययन में पृथक्करण 40 निर्णयों के दौरान उभरा। मध्यम-बाज़ार मात्रा संभालने वाला स्क्रीनर 40 निर्णय एक दोपहर में निपटा देता है। मार्च में समता प्रमाणित करने वाला ऑडिट उस नीति के बारे में कुछ नहीं कहता जिस पर सिस्टम सितंबर तक अभिसरित हो चुका है, क्योंकि सितंबर की नीति उस डेटा से बनी है जो मार्च में था ही नहीं — आपका डेटा, आपके भर्ती परिणाम, आपकी प्रतिपुष्टि।
यह अंतर विक्रेताओं द्वारा जारी हर स्मृति और वैयक्तिकरण सुविधा के साथ चौड़ा होता है। ऐसा स्क्रीनर जो सत्रों के आर-पार संदर्भ बनाए रखता है, या आपके स्वीकृति/अस्वीकृति निर्णयों पर सूक्ष्म-प्रशिक्षित होता है, या "यहाँ क्या काम आया" का चलता-फिरता सारांश रखता है — ठीक वही वास्तुकला है जिसका यह अध्ययन प्रतिरूपण करता है। हर बायोडाटा को स्वतंत्र रूप से आँकने और फिर भूल जाने वाला स्थिति-रहित स्क्रीनर उल्लेखनीय रूप से सुरक्षित है — जो इन उत्पादों के आपको बेचे जाने के तरीके से ठीक उलटा है।
अपनाने और नियंत्रण के बीच की खाई
जोखिम पहले ही व्यापक है। ManpowerGroup Talent Solutions के 2026 शोध के अनुसार, जो अमेरिका और ब्रिटेन के वरिष्ठ प्रतिभा-प्रमुखों पर आधारित है, 90% से अधिक संगठनों ने प्रतिभा-अधिग्रहण में AI तैनात कर दिया है, जबकि 5% से भी कम रूपांतरकारी परिणाम बताते हैं (ManpowerGroup, 2026)। लगभग सार्वभौमिक तैनाती, न्यूनतम प्राप्त मूल्य, और — अध्ययन के संकेत के अनुसार — दोनों के नीचे बहता एक अनमापा विचलन-जोखिम।
सबसे मज़बूत आपत्ति, और वह कहाँ टिकना बंद कर देती है
ईमानदार प्रतिवाद: यह एक काल्पनिक शहर है, गढ़ी हुई जातीयताओं और खिलौना-सरीखे पुरस्कार संकेत के साथ। आपका ATS ऐसे काम नहीं करता। असली स्क्रीनर जॉब-डिस्क्रिप्शन एम्बेडिंग और संरचित मानदंडों के सापेक्ष क्रम लगाते हैं, अधिकांश परवर्ती परिणामों से सीखते ही नहीं, और चार गढ़े हुए समूह उन सहसंबंधों में से कोई नहीं रखते जो वास्तविक दुनिया के पूर्वाग्रह को संभालने योग्य बनाते हैं।
यह आपत्ति तंत्र की हस्तांतरणीयता के बारे में सही है और उसकी दिशा के बारे में गलत।
यह वहाँ टिकती है जहाँ आपका स्क्रीनर सचमुच स्थिति-रहित है: कोई स्मृति नहीं, कोई परिणाम-प्रतिपुष्टि नहीं, आपके निर्णयों पर कोई सूक्ष्म-प्रशिक्षण नहीं, हर उम्मीदवार एक स्थिर नीति से नए सिरे से आँका जाता है। यदि आपका तंत्र यही है, तो यह अध्ययन उस सिस्टम की चेतावनी है जिसे आपने अभी खरीदा नहीं है।
यह दो बिंदुओं पर टिकना बंद कर देती है। पहला, काल्पनिक समूह निष्कर्ष को कमज़ोर करने के बजाय मज़बूत करते हैं: वास्तविक-दुनिया के सहसंबंधों के बिना सीखने योग्य कोई वैध संकेत था ही नहीं, इसलिए पृथक्करण की हर इकाई गढ़ी हुई है। जीवंत प्रवाह में, जहाँ असली सहसंबंध मौजूद हैं, मॉडल के पास अति-सामान्यीकरण के लिए अधिक सामग्री होती है, कम नहीं। दूसरा, उद्योग ठीक उन्हीं स्थिति-युक्त, स्मृति-सम्पन्न, सतत सीखने वाले एजेंटों की ओर बढ़ रहा है जिनमें यह विफलता-प्रारूप स्वाभाविक है। सवाल यह नहीं कि आपका मौजूदा उपकरण ऐसा करता है या नहीं। सवाल यह है कि आपके विक्रेता की अगले साल की योजना में जो उन्नयन है, वह ऐसा करेगा या नहीं — और क्या आपका अनुबंध आपको यह बताएगा।
किसी के शिकायत दर्ज कराने से पहले इसकी क़ीमत
कानूनी परिणाम काल्पनिक नहीं हैं। Mobley v. Workday में — कैलिफ़ोर्निया के उत्तरी ज़िले में एल्गोरिदमिक स्क्रीनिंग पर एक भेदभाव मुकदमा — स्वयं Workday के दाखिल दस्तावेज़ बताते हैं कि संबंधित अवधि में उसके उपकरणों से 1.1 अरब आवेदन अस्वीकृत किए गए, और मामला सामूहिक प्रमाणन तथा पूर्वाग्रह परीक्षण एवं आवेदक डेटा पर विवादित प्रकटीकरण चरण से होकर आगे बढ़ा है (Duane Morris, 2026)। परिणाम जो भी हो, प्रकटीकरण की स्थिति अब स्थापित है: आपके स्क्रीनिंग निर्णय और आपके पूर्वाग्रह-परीक्षण रिकॉर्ड पहुँच के भीतर हैं।
अधिक ख़ामोश लागत पहले आती है, और कानूनी समस्या बनने से पहले वह भर्ती-गुणवत्ता की समस्या है। जिस स्क्रीनर ने किसी भूमिका के लिए किसी समूह को चुपचाप दिखाना बंद कर दिया है, वह कोई त्रुटि नहीं दिखाता। वह एक ऐसी संक्षिप्त सूची लौटाता है जो पूरी तरह उचित लगती है। आप उन उम्मीदवारों को खो देते हैं जिन्हें आपने कभी देखा ही नहीं — एक ऐसे प्रारूप में जिसे किसी ने चुना नहीं — और आपके फ़नल के मानक पूरे समय हरे बने रहते हैं, क्योंकि सिकुड़ता खोज-क्षेत्र और कुशल खोज-क्षेत्र एक ही डैशबोर्ड बनाते हैं।
इस तिमाही का एक निर्णय
अपने स्क्रीनिंग विक्रेता के अगले नवीनीकरण या विस्तार से पहले, दो प्रश्न लिखित में रखें और लिखित उत्तर माँगें।
पहला: क्या इस उपकरण की कोई स्थिति है? क्या यह उम्मीदवारों या सत्रों के आर-पार स्मृति रखता है, हमारे भर्ती परिणामों से सीखता है, या हमारे स्वीकृति/अस्वीकृति निर्णयों पर सूक्ष्म-प्रशिक्षित होता है — आज, या उत्पाद योजना में? "हाँ" आपको स्थिर ऑडिट व्यवस्था से विचलन-निगरानी व्यवस्था में ले जाता है, और आपके शासन में और कुछ भी इसे नहीं बदलता।
दूसरा: विचलन हमें दिखेगा किससे? दो शर्तें अधिकांश जोखिम को ढँक देती हैं। एक यादृच्छिक-अन्वेषण होल्डआउट — निर्णयों का एक निर्धारित हिस्सा जो मॉडल की सीखी हुई वरीयता के बिना लिया जाए; उन समूहों के परिणाम देखते रहने का यही एकमात्र रास्ता है जिन्हें सिस्टम खारिज करने लगा है। और मासिक अंतराल पर समूह-वार परिणाम निगरानी, जो चयन-दर समूह और भूमिका दोनों के अनुसार दर्ज करे — क्योंकि अध्ययन का विफलता-प्रारूप किसी समूह से कुल मिलाकर कम भर्तियाँ नहीं है, बल्कि उतनी ही भर्तियाँ हैं जो अलग नौकरियों में छाँट दी जाती हैं। उस अनुकरण में समुच्चय इम्पैक्ट रेशियो समता दिखाता रहता, जबकि पृथक्करण सूचकांक अपनी ऊपरी सीमा की ओर चढ़ रहा था।
दोनों शर्तें अनुबंध में जाती हैं, क्रियान्वयन योजना में नहीं। नवीनीकरण ही वह क्षण है जब सौदेबाज़ी की ताक़त आपके पास होती है।
इस अध्ययन का AI स्क्रीनिंग पूर्वाग्रह न विरासत में मिला था, न जानबूझकर था, और न ही तैनाती से पहले मौजूद किसी वस्तु में दिखाई देता था। वह काम के दौरान गढ़ा गया — कमरे की सबसे सक्षम प्रणाली द्वारा, ऐसे डेटा से जिसमें खोजने को कुछ था ही नहीं। अपनी जाँच वहाँ मोड़िए जो मॉडल आपसे सीखता है — उस पर नहीं जो वह साथ लेकर आया था।
