القيمة الصغرى الكلية (Global Minimum) أقل قيمة ممكنة لدالة معينة عبر كل نقاط الفضاء المتاح ليها، مش بس المنطقة القريبة من نقطة البداية.
باختصار
النقطة اللي مفيش أي نقطة تانية في الفضاء كله قيمتها أقل منها، بعكس القيمة الصغرى المحلية اللي بتكون الأقل في منطقتها بس.
بالتفصيل
في تدريب نماذج التعلم العميق، دالة الخسارة غالباً بتكون معقدة وعندها أبعاد كتير جداً، وشكلها مش سطح بسيط زي كوب واحد؛ فيه تلال ووديان كتير. القيمة الصغرى الكلية هي أعمق وادي في الفضاء كله، لكن خوارزميات زي الانحدار التدريجي بتتحرك محلياً وممكن توصل لوادي تاني أضحل وتفضل فيه لأنها مش قادرة تشوف الصورة الكاملة.
في الشبكات العصبية الكبيرة العملية، البحث ده بيتحول لتحدي أقل حدة من المتوقع، لأن أبحاث كتير لاحظت إن معظم القيم الصغرى المحلية في الشبكات الكبيرة بتكون قريبة القيمة من القيمة الصغرى الكلية على أي حال.
مثال عملي
لو عندك دالة بسيطة شكلها زي حرف W، القاع الأعمق فيها هو القيمة الصغرى الكلية، أما القاع التاني الأقل عمقاً فهو قيمة صغرى محلية بس.
خلي بالك: الوصول للقيمة الصغرى الكلية بالظبط مش دايماً ضروري عملياً؛ نموذج قريب منها بدرجة كافية غالباً بيكون كويس جداً للاستخدام الفعلي.
مصطلحات مرتبطة
Local Minimum، Gradient Descent، SGD.
المصادر: Wikipedia
