القيمة الصغرى المحلية (Local Minimum) نقطة في فضاء دالة معينة بتكون قيمتها أقل من كل النقاط اللي حواليها مباشرة، لكن مش بالضرورة أقل قيمة في الفضاء كله.
باختصار
نقطة منخفضة محلياً — زي قاع وادي صغير — لكن ممكن يكون فيه وادي أعمق منها في مكان تاني من نفس المنطقة الجبلية، وده الفرق بينها وبين القيمة الصغرى الكلية.
بالتفصيل
خوارزميات التدريب زي الانحدار التدريجي بتتحرك خطوة بخطوة في اتجاه تقليل دالة الخسارة، بمتابعة الميل (Gradient) عند كل نقطة. المشكلة إن الخوارزمية ممكن توصل لنقطة الميل عندها صفر في كل الاتجاهات القريبة — يعني مفيش اتجاه نازل واضح — رغم إن الخسارة ممكن تكون أقل بكتير في منطقة تانية بعيدة.
الخوارزمية مش قادرة تفرّق بين القيمة الصغرى المحلية والقيمة الصغرى الكلية من موقعها؛ هي بس بتعرف إنها مش قادرة تنزل أكتر من مكانها الحالي.
مثال عملي
لو نموذج توقف تدريبه عند خسارة 0.3 ومفيش تحسن أكتر من كده مهما كملت التدريب، ده ممكن يكون علامة إنه علق في قيمة صغرى محلية مش الأمثل الكلي.
خلي بالك: تقنيات زي الزخم (Momentum) والبدء من نقاط عشوائية مختلفة بتساعد النموذج يتخطى القيم الصغرى المحلية الضحلة.
مصطلحات مرتبطة
Gradient Descent، SGD، Global Minimum.
المصادر: Wikipedia
