باختصار
العدالة المضادّة للواقع (Counterfactual Fairness) مقياس عدالة بيتحقّق ممّا إذا كان نموذج التصنيف بينتج نفس النتيجة لشخص ما ولشخص آخر مطابق له تمامًا، باستثناء سمة حسّاسة واحدة أو أكثر.
بالتفصيل
الاسم مأخوذ من فكرة «ماذا لو» (Counterfactual): بنبني نسخة افتراضية من نفس الشخص، متطابقة في كل شيء، ما عدا سمة واحدة — الجنس مثلًا أو العِرق أو السنّ.
لو تغيّر قرار النموذج بين النسختين، فالسمة الحسّاسة دي بتؤثّر في القرار — وده مؤشّر على انحياز.
والسمات الحسّاسة (Sensitive Attributes) هي الخصائص اللي المفروض قانونًا أو أخلاقيًا ألّا تدخل في القرار.
وتقييم نموذج التصنيف من زاوية العدالة المضادّة للواقع هو إحدى الطرق لكشف مصادر الانحياز المحتملة في النموذج.
لكن فيه تعقيدًا حقيقيًا: كتير من السمات مرتبطة ببعضها. لو حذفت «الجنس» من المدخلات، ممكن يستنتجه النموذج ضمنًا من سمات أخرى مرتبطة به. فالاكتفاء بحذف العمود مش كافيًا، ولذلك بيحتاج التحليل فرضيات صريحة عن العلاقات السببية بين المتغيّرات.
مثال عملي
نموذج يقيّم طلبات قروض. تاخد طلبًا حقيقيًا لسيّدة: دخل معيّن، ووظيفة، وسجلّ ائتماني، ومدّة عمل.
بعدين تبني نسخة مطابقة تمامًا في كل رقم، وتغيّر الجنس فقط. لو رجّع النموذج «مقبول» في حالة وقرارًا مختلفًا في الأخرى، فالنموذج غير عادل مضادًّا للواقع في هذه الحالة — بغضّ النظر عن دقّته الإجمالية.
مصطلحات مرتبطة
- Sensitive Attribute — السمة الحسّاسة.
- Confirmation Bias — انحياز التأكيد.
- Responsible AI — الذكاء الاصطناعي المسؤول.
المصادر: Google ML Glossary
