باختصار
Sensitive Attribute (الخاصّية الحسّاسة) صفة إنسانية ممكن تاخد اعتبار خاص لأسباب قانونية أو أخلاقية أو اجتماعية أو شخصية.
بالتفصيل
لما نموذج بياخد قرارات عن ناس، زي قبول قرض أو فرز سِيَر ذاتية، فيه صفات لازم نتعامل معاها بحذر، لأن استخدامها ممكن يأدّي لتمييز ظالم.
الحلّ اللي بيخطر على البال أوّلًا: نشيل الصفات دي من بيانات التدريب. لكن مسرد Google بيشرح ليه ده مش كفاية، من خلال مفهومين:
- Proxy (البديل): خاصّية بتقوم مقام الخاصّية الحسّاسة. مثال المسرد: الرقم البريدي لشخص ممكن يتستخدم كبديل لدخله أو عِرقه أو أصله.
- Unawareness (عدم الدراية): الحالة اللي فيها الخصائص الحسّاسة موجودة في الواقع لكن مش متضمّنة في بيانات التدريب. ولأن الخصائص دي غالبًا مرتبطة بخصائص تانية في البيانات، النموذج اللي اتدرّب من غيرها ممكن برضه يعمل تأثير غير متكافئ (Disparate Impact) أو يخالف قيود عدالة تانية.
مثال عملي
شركة بتبني نموذج لترشيح المتقدّمين للوظائف، وشالت خانة الجنس من البيانات. لكن سِيَر ذاتية فيها أسماء مدارس أو أندية أو أنشطة مرتبطة بجنس معيّن. النموذج ممكن يتعلّم يستخدم الحاجات دي كبدائل، ويوصل لنفس التحيّز اللي الشركة كانت عايزة تمنعه.
الدرس: العدالة مش بتتحقّق بإنك «تتعامى» عن الخاصّية. محتاج تقيس نتايج النموذج على المجموعات المختلفة وتشوف هل فيه فرق.
مصطلحات مرتبطة
- Algorithmic Fairness — العدالة الخوارزمية.
- Proxy — الخاصّية البديلة.
- Disparate Impact — التأثير غير المتكافئ.
- Bias — التحيّز.
المصادر: Google ML Glossary
