باختصار
نموذج الصندوق الأسود (Black-Box Model) هو نموذج يستحيل على البشر فهم «استدلاله» أو يصعب عليهم ذلك.
بالتفصيل
الفكرة إن البشر يقدروا يشوفوا كيف تؤثّر الموجّهات (Prompts) في الاستجابات (Responses)، لكنهم ما يقدروش يحدّدوا بالضبط كيف وصل النموذج للاستجابة دي.
بعبارة تانية، نموذج الصندوق الأسود هو نموذج تنقصه القابلية للتفسير (Interpretability).
والحقيقة اللي لازم تتقال بوضوح: معظم النماذج العميقة ونماذج اللغة الكبيرة هي صناديق سوداء. ده مش استثناء ولا عيب في تطبيق معيّن — ده الوضع الافتراضي للفئة دي من النماذج.
السبب بنيوي. النموذج بيوزّع «القرار» على مئات الملايين أو المليارات من الأوزان المتفاعلة، ومفيش خطوة واحدة تقدر تشاور عليها وتقول «هنا اتّخذ القرار».
ليه ده مهمّ عمليًا؟ لأن قطاعات كتير — البنوك، التأمين، الطبّ، التوظيف — بيتطلّب فيها القانون أو التنظيم تبريرًا للقرار. «النموذج قال كده» مش تبرير مقبول لرفض طلب قرض.
ولذلك بيقع اختيار كتير من المؤسّسات على نموذج أبسط وأقلّ دقّة لكنه قابل للتفسير، بدل نموذج أدقّ لا يمكن شرحه.
مثال عملي
بنك بيستخدم نموذجًا عميقًا لتقييم طلبات القروض، ودقّته أعلى من النموذج القديم. عميل اترفض طلبه وسأل: ليه؟
مع شجرة قرار بسيطة، الإجابة متاحة: «الدخل أقلّ من الحدّ، ونسبة الالتزامات أعلى من كذا». مع الصندوق الأسود، مفيش إجابة تقدر تثبتها — وده بيحوّل مكسب الدقّة إلى مخاطرة تنظيمية.
مصطلحات مرتبطة
- Interpretability — القابلية للتفسير.
- Feature Importances — أهمّية السمات.
- Chain of Thought — سلسلة التفكير.
المصادر: Google ML Glossary
