على مقياس للفصل الوظيفي تعني فيه القيمة 2.0 أن كل مجموعة سكانية حُصرت بالكامل في مجالها المهني الخاص، سجّل المشاركون من البشر 0.84. أما نماذج اللغة الكبيرة التي نفّذت المهمة نفسها فسجّلت أعلى بنحو 65%. وبلغ نموذج o3 من OpenAI مستوى 1.83 (MIT Technology Review, 2026).
لم يُدرّب أحد هذا التحيز. المرشحون كانوا وهميين، والمجموعات العرقية مُختلقة، وكل متقدم كان لديه احتمال النجاح نفسه تمامًا في كل وظيفة. النماذج بنت الصورة النمطية بنفسها، أثناء التشغيل، انطلاقًا من حفنة من نتائج التوظيف.
هذه مشكلة مختلفة عن تلك التي صُمّمت عملية الشراء لديك لالتقاطها. فتحيز الفرز بالذكاء الاصطناعي، كما تتصوره معظم عمليات تدقيق المورّدين، تحيز موروث: بقايا بيانات تدريب منحرفة، يمكن كشفها قبل الإطلاق، وإصلاحها بمجموعة بيانات أفضل وشهادة تدقيق. أما هنا فنحن أمام تحيز بلا أي مصدر سابق على الإطلاق. يتشكّل بعد التشغيل، من تغذية راجعة مصدرها نتائج توظيفك أنت، داخل نظام اجتاز كل فحص أجريته قبل الإطلاق.
الدراسة: بيانات نظيفة تدخل، فصل وظيفي يخرج
قام باحثون في Princeton University وUniversity of Chicago بتكييف تجربة في علم النفس حول تكوّن الصور النمطية لدى البشر، وطبّقوها على 15 نموذجًا من OpenAI وAnthropic وDeepSeek وMeta وGoogle وAlibaba. وقد عُرضت الورقة في مؤتمر ICML في سيول في يوليو 2026 (Liu et al., ICML 2026).
التصميم معقّم عن قصد. يُقال لكل نموذج إن عمدة مدينة خيالية استعان به مستشارًا، وعليه شغل 20 وظيفة: أطباء ومحامون ومربّو أطفال وعمال نظافة. تعرض كل جولة وظيفة شاغرة وأربعة مرشحين، واحدًا من كل مجموعة من أربع مجموعات عرقية مُختلقة: التوفا، والأيما، والريكو، والويكي. يوظّف النموذج، ثم يعرف ما إذا نجح ذلك الشخص، وينتقل إلى الجولة التالية. أربعون جولة. والهدف: تعظيم عدد التعيينات الناجحة.
الحقيقة الأساسية، المخفية عن النموذج: كل مرشح لديه الاحتمال نفسه للنجاح في كل وظيفة. لا توجد إشارة يمكن العثور عليها.
ومع ذلك عثرت النماذج على إشارة. فحين يُبلَّغ النموذج بأن أحد الأيما فشل كطبيب، يبتعد عن توظيف الأيما كأطباء — ويبدأ بتوجيههم نحو أدوار النظافة، التي صنّفها على أنها تتطلب قدرًا أقل من الدفء والكفاءة (MIT Technology Review, 2026). نتيجة واحدة، ومجموعة واحدة، ووظيفة واحدة. ومن ذلك ينشأ نظام طبقي.
ويوضح المؤلفون المعنى بلا مواربة: نماذج اللغة الكبيرة "قادرة على أن تطوّر تلقائيًا تحيزات اجتماعية جديدة تجاه مجموعات سكانية اصطناعية حتى في غياب أي فروق جوهرية"، وهو ما يجعلها "ليست مجرد مرايا سلبية للتحيزات الاجتماعية البشرية، بل قادرة على خلق تحيزات جديدة انطلاقًا من التجربة" (Liu et al., ICML 2026).
النموذج الذي لم يرَ قط مجموعة بيانات منحازة قادر مع ذلك على إنتاج قوة عاملة مفصولة. التحيز ليس في مجموعة البيانات، بل في قاعدة التحديث.
أفضل نماذجك أداءً هو أعلاها خطرًا
هذه هي النتيجة التي ينبغي أن تعيد ترتيب قائمتك المختصرة للمورّدين. ففي كل عائلة نماذج جرى اختبارها، كانت نماذج الاستدلال الأحدث والأكبر والأقدر أكثر تحيزًا لا أقل. وقد صنّف نموذجا o3 من OpenAI وR1 من DeepSeek المرشحين بأشد صورة.
الآلية ليست عيبًا، بل هي القدرة تعمل كما صُمّمت. يقولها Ryan Liu، المشارك في التأليف من Princeton، بوضوح: نماذج اللغة "متلهفة فعلًا لصياغة تعميمات من بيانات محدودة. وهذا حرفيًا جزء كبير مما جرى تحسينها لأجله" (MIT Technology Review, 2026).
كل متخذ قرار يواجه المفاضلة بين الاستكشاف والاستغلال: التمسك بما نجح، أو تجربة ما قد ينجح أكثر. والنماذج المدرَّبة على مسائل الرياضيات والبرمجة والعلوم تُكافأ على استنتاج قاعدة من أمثلة قليلة ثم تطبيقها بثقة. وهذه الغريزة بالذات هي ما يجعلها بارعة في الألغاز المنطقية. لكن حين توجَّه إلى مسألة توزيع اجتماعي، تتحول إلى تعميم متسرع من أدلة رقيقة، وتتوقف عن استكشاف المجموعات التي شطبتها. وبصياغة الباحثين أنفسهم: النموذج الأقوى "قد يفضّل مرشحين من مجموعة ما إذا نجحت تعيينات سابقة في وظائف مشابهة"، و"هذا الميل الذي يبدو عقلانيًا قد يكون غير تكيفي، إذ يهدد بتقليص الاستكشاف وتهميش مجموعات اجتماعية دون قصد" (Liu et al., ICML 2026).
والأثر التشغيلي يقلب قاعدة شراء معتادة رأسًا على عقب. ففي مقارنتك بين أدوات الفرز، النموذج الذي يسجّل أفضل أرقام الدقة على معيار ثابت هو على الأرجح النموذج الذي سيفصل بأشد صورة بمجرد أن يبدأ التعلم من نتائج حقيقية. القدرة ونمط الإخفاق هذا مرتبطان، وأنت الآن تختار على أساس القدرة وحدها.
تدقيقك على تحيز الفرز بالذكاء الاصطناعي موجَّه إلى الأثر الخطأ
معظم حوكمة الذكاء الاصطناعي في التوظيف تفحص أشياء موجودة قبل أن يلتقي النظام بمرشحيك: مصدر بيانات التدريب، وبطاقات النموذج، ومقاييس الإنصاف على مجموعة اختبار مرجعية، واختبار نسبة الأثر قبل الإطلاق، وحزمة ضمان شبيهة بـ SOC 2 من المورّد.
ويشترط قانون نيويورك المحلي رقم 144 — وهو النموذج الأكثر استنساخًا في هذا المجال — تدقيقًا سنويًا مستقلًا للتحيز يقيس نسب أثر معدلات الاختيار بحسب الجنس والعرق/الإثنية لأدوات قرارات التوظيف الآلية، بما في ذلك التحليل التقاطعي ونشر ملخص التدقيق علنًا (Warden AI, 2026). سنوي. مستقل. وهو لقطة ساكنة.
واللقطة الساكنة أداة خاطئة لتحيز يتراكم عبر الجولات. في الدراسة، ظهر الفصل الوظيفي عبر 40 قرارًا. وأداة فرز تعالج أحجامًا من حجم الشركات المتوسطة تنجز 40 قرارًا في فترة بعد ظهر واحدة. وتدقيق في مارس يشهد بالتكافؤ لا يقول شيئًا عن السياسة التي تقارب إليها النظام بحلول سبتمبر، لأن سياسة سبتمبر بُنيت من بيانات لم تكن موجودة في مارس — بياناتك أنت، ونتائج توظيفك، وتغذيتك الراجعة.
وتتسع هذه الفجوة مع كل ميزة ذاكرة وتخصيص يطلقها المورّدون. فأداة الفرز التي تحتفظ بالسياق عبر الجلسات، أو تُضبط دقيقًا على قرارات القبول/الرفض لديك، أو تحتفظ بملخص متجدد لـ"ما الذي نجح هنا"، هي بالضبط البنية التي تنمذجها الدراسة. أما أداة الفرز عديمة الحالة، التي تقيّم كل سيرة ذاتية على حدة ثم تنسى، فهي أكثر أمانًا بشكل ملموس — وهو عكس الطريقة التي تُسوَّق بها هذه المنتجات لك.
الفجوة بين التبني والسيطرة
الانكشاف واسع بالفعل. فأكثر من 90% من المؤسسات نشرت الذكاء الاصطناعي في استقطاب المواهب، بينما أقل من 5% تُبلغ عن نتائج تحويلية، وفق بحث 2026 الصادر عن ManpowerGroup Talent Solutions بين كبار قادة المواهب في الولايات المتحدة والمملكة المتحدة (ManpowerGroup, 2026). نشر شبه شامل، وقيمة محققة ضئيلة، و — كما تشير الدراسة — خطر انحراف غير مقيس يجري تحت الاثنين معًا.
أقوى اعتراض، وأين يتوقف عن الصمود
الاعتراض الأمين: هذه مدينة خيالية بإثنيات مُختلقة وإشارة مكافأة مخبرية. ونظام تتبع المتقدمين لديك لا يعمل هكذا. فأدوات الفرز الحقيقية تُرتّب مقابل تمثيلات متجهية لأوصاف الوظائف ومعايير مهيكلة، ومعظمها لا يتعلم إطلاقًا من النتائج اللاحقة، والمجموعات الأربع المُختلقة لا تحمل أيًا من الارتباطات التي تجعل التحيز الواقعي قابلًا للمعالجة.
هذا الاعتراض محق بشأن قابلية انتقال الآلية، ومخطئ بشأن اتجاهها.
فهو يصمد حيث تكون أداة الفرز لديك عديمة الحالة فعلًا: بلا ذاكرة، وبلا تغذية راجعة من النتائج، وبلا ضبط دقيق على قراراتك، تعيد تقييم كل مرشح انطلاقًا من سياسة ثابتة. فإن كان هذا يصف منظومتك، فالدراسة تحذير من نظام لم تشترِه بعد.
ويتوقف عن الصمود عند نقطتين. الأولى: المجموعات الخيالية تقوّي النتيجة بدل أن تضعفها؛ فمن دون نظائر واقعية لم تكن هناك إشارة مشروعة لتعلّمها، ومن ثم فكل وحدة فصل وظيفي مصنوعة اصطناعيًا. وفي مسار توظيف حقيقي، حيث توجد ارتباطات فعلية، يملك النموذج مادة أكثر للإفراط في التعميم لا أقل. والثانية: القطاع يتجه بالضبط نحو الوكلاء ذوي الحالة، المزوّدين بالذاكرة والمتعلمين باستمرار، وهم البيئة التي يكون فيها نمط الإخفاق هذا أصيلًا. والسؤال ليس ما إذا كانت أداتك الحالية تفعل ذلك، بل ما إذا كانت الترقية المدرجة في خارطة طريق مورّدك للعام المقبل ستفعله — وما إذا كان عقدك سيخبرك بذلك.
ما يكلفك هذا قبل أن يرفع أحد شكوى
الذيل القانوني ليس نظريًا. ففي قضية Mobley v. Workday، وهي دعوى تمييز بشأن الفرز الخوارزمي أمام المنطقة الشمالية لكاليفورنيا، أشارت مذكرات Workday نفسها إلى أن 1.1 مليار طلب توظيف رُفض باستخدام أدواتها خلال الفترة محل النظر، وتقدّمت القضية عبر الاعتماد الجماعي ومرحلة إفصاح متنازع عليها بشأن اختبارات التحيز وبيانات المتقدمين (Duane Morris, 2026). ومهما تكن النتيجة، فقد استقر وضع الإفصاح: قرارات الفرز لديك وسجلات اختبارات التحيز في متناول اليد.
أما الكلفة الأهدأ فتصل أولًا، وهي مشكلة جودة توظيف قبل أن تكون مشكلة قانونية. فأداة الفرز التي توقفت بصمت عن إظهار فئة بعينها لدور معين لا تُطلق رسالة خطأ، بل تعيد قائمة مختصرة تبدو معقولة تمامًا. وأنت تخسر المرشحين الذين لم ترهم قط، وفق نمط لم يخترْه أحد، بينما تبقى مؤشرات قمع التوظيف خضراء طوال الوقت — لأن فضاء بحث يضيق وفضاء بحث كفؤًا ينتجان اللوحة نفسها.
قرار واحد هذا الربع
قبل التجديد أو التوسّع المقبل مع مورّد الفرز، ضع سؤالين كتابةً واطلب إجابتين مكتوبتين.
الأول: هل لهذه الأداة حالة؟ هل تحتفظ بذاكرة عبر المرشحين أو الجلسات، أو تتعلم من نتائج توظيفنا، أو تُضبط دقيقًا على قرارات القبول/الرفض لدينا — اليوم، أو ضمن خارطة طريق المنتج؟ الإجابة بنعم تنقلك من نظام تدقيق ساكن إلى نظام رصد انحراف، ولا شيء آخر في حوكمتك يغيّر ذلك.
الثاني: ما الذي سيكشف لنا الانحراف؟ بندان يغطيان معظم الخطر. الأول: عيّنة استكشاف عشوائية محتجزة — حصة محددة من القرارات تُتخذ دون التفضيل الذي تعلّمه النموذج، وهي السبيل الوحيد لمواصلة رصد نتائج الفئات التي بدأ النظام يشطبها. والثاني: رصد النتائج لكل فئة بوتيرة شهرية، بتتبع معدلات الاختيار بحسب المجموعة وبحسب الدور، لأن نمط الإخفاق في الدراسة ليس تعيينات أقل من مجموعة ما إجمالًا، بل العدد نفسه من التعيينات موزعًا على وظائف مختلفة. فنسبة أثر مجمّعة كانت ستُظهر تكافؤًا في تلك المحاكاة بينما مؤشر الفصل الوظيفي يتسلق نحو سقفه.
كلا البندين مكانهما العقد، لا خطة التنفيذ. فالتجديد هو اللحظة التي تملك فيها القدرة التفاوضية.
تحيز الفرز بالذكاء الاصطناعي في هذه الدراسة لم يكن موروثًا، ولا مقصودًا، ولا مرئيًا في أي أثر كان موجودًا قبل الإطلاق. لقد صُنع أثناء العمل، بيد أقدر نظام في الغرفة، من بيانات لم تكن تحوي شيئًا يُكتشف. وجّه تدقيقك إلى ما يتعلمه النموذج منك — لا إلى ما جاء عارفًا به.
