باختصار
انحياز الأتمتة (Automation Bias) هو أن يفضّل متّخذ القرار البشري التوصيات الصادرة عن نظام قرار آلي على المعلومات المتاحة من مصادر غير آلية، حتى حين يكون النظام الآلي مخطئًا.
بالتفصيل
ده انحياز بشري، مش عيب في النموذج. المشكلة مش إن النظام غلط — كل الأنظمة بتغلط. المشكلة إن وجود مخرَج آلي بيقلّل استعداد الإنسان لمراجعته.
وهو مصنّف كشكل من أشكال الانحياز الضمني (Implicit Bias)، يعني بيشتغل من غير ما الشخص يقصد أو حتى يلاحظ.
ليه بيحصل؟ لأن المخرَج الآلي بييجي بصيغة واثقة ومرتّبة ورقمية، والصيغة دي بتوحي بموضوعية. ولأن مراجعة المخرَج بتكلّف مجهودًا، ومخالفته بتكلّف مسؤولية: لو اتّبعت النظام وغلط، «النظام غلط»؛ ولو خالفته وغلطت، «إنت غلطت».
والخطورة بتزيد كل ما زادت دقّة النظام. نظام بيصيب 99% من الوقت بيدرّب مستخدميه على عدم المراجعة — وبالظبط في الـ1% اللي محتاجة مراجعة، ما حدّش بيراجع.
انحياز الأتمتة واحد من أنواع الانحياز اللي بتتناولها أدبيات الذكاء الاصطناعي المسؤول، لأنه بيحوّل خطأ النموذج إلى قرار بشري نافذ.
مثال عملي
نظام يساعد في فرز السير الذاتية ويرشّح 10 مرشّحين من 500. مسؤول التوظيف قرأ ملاحظة مكتوبة بخطّ اليد من زميل بترشّح مرشّحًا مختلفًا، لكنه استبعدها لأن «النظام ما اختارهوش».
المعلومة البشرية هنا كانت أدقّ، لكن صيغتها أضعف أمام مخرَج آلي.
مصطلحات مرتبطة
- Confirmation Bias — انحياز التأكيد.
- Responsible AI — الذكاء الاصطناعي المسؤول.
- Human-in-the-Loop — الإنسان داخل الحلقة.
المصادر: Google ML Glossary
