باختصار
الأثر التفاوتي (Disparate Impact) هو اتّخاذ قرارات بشأن الأشخاص تؤثّر على فئات سكّانية فرعية مختلفة بشكل غير متناسب. وعادةً بيشير المصطلح للحالات اللي عملية قرار خوارزمية فيها بتضرّ أو تفيد بعض الفئات الفرعية أكثر من غيرها.
بالتفصيل
المثال التوضيحي الكلاسيكي: خوارزمية بتحدّد أهلية شخص لقرض عقاري صغير، أرجح تصنّفه «غير مؤهّل» لو عنوانه البريدي يحتوي رمزًا بريديًا معيّنًا.
لو فئة سكّانية معيّنة أكثر احتمالًا إن يكون عنوانها البريدي فيه الرمز ده من فئة أخرى، فالخوارزمية دي ممكن تنتج أثرًا تفاوتيًا — حتى لو الفئة السكّانية نفسها مش من مُدخَلات الخوارزمية أصلًا.
وده بالظبط ما يميّز الأثر التفاوتي عن المعاملة التفاوتية (Disparate Treatment)، اللي بتركّز على التفاوتات الناتجة عندما تكون خصائص الفئة الفرعية مُدخَلًا صريحًا في عملية القرار الخوارزمية.
يعني: المعاملة التفاوتية = «السمة الحسّاسة مُدخَلة صراحة». الأثر التفاوتي = «النتيجة متفاوتة، حتى لو السمة الحسّاسة غير مُدخَلة صراحة، بسبب سمات وسيطة مرتبطة بها».
وده اللي بيخلّي الأثر التفاوتي أصعب في الاكتشاف من المعاملة التفاوتية: مافيش سطر كود واحد تقدر تشاور عليه وتقول «ده السبب». المشكلة موزّعة عبر علاقات إحصائية بين سمات ظاهريًا محايدة وفئة سكّانية حسّاسة.
مثال عملي
نظام توظيف بيستبعد المتقدّمين اللي فيه فجوة أطول من سنة في سيرتهم الذاتية. السمة دي محايدة ظاهريًا — مفيش «جنس» أو «عِرق» في المُدخَلات.
لكن لو النساء في مجتمع معيّن أكثر احتمالًا إن يكون عندهم فجوة بسبب إجازة أمومة، فالنظام بينتج أثرًا تفاوتيًا ضدّهنّ — رغم إن السمة الحسّاسة نفسها ما دخلتش القرار مباشرةً.
مصطلحات مرتبطة
- Disparate Treatment — المعاملة التفاوتية.
- Demographic Parity — التكافؤ الديموغرافي.
- Sensitive Attribute — السمة الحسّاسة.
المصادر: Google ML Glossary
