الانحدار العشوائي مع الزخم (SGD with Momentum) مصطلح ظهر في محتوى قرمصيص ويستحق تعريفاً مستقلاً. نسخة من SGD تجمع اتجاهاً متحركاً من التدرجات السابقة لتنعيم التحديث وتسريع الحركة المتسقة.
باختصار
نسخة من SGD تجمع اتجاهاً متحركاً من التدرجات السابقة لتنعيم التحديث وتسريع الحركة المتسقة.
بالتفصيل
بدلاً من الاعتماد على تدرج الدفعة الحالية وحده، يحتفظ المُحسّن بسرعة تراكمية. يقلل ذلك التذبذب عبر الوديان الضيقة وقد يسرع الوصول إلى منطقة جيدة. يتحكم معامل momentum في مقدار التاريخ، ويحتاج معدل التعلم إلى ضبط معه.
لفهم المصطلح عملياً، اسأل دائماً: ما المدخلات؟ ما الناتج؟ ما الافتراضات؟ وكيف نقيس النجاح على بيانات منفصلة؟ الاسم وحده لا يثبت أن الطريقة أنسب أو أحدث، والمقارنة العادلة تحتاج خط أساس ومقياساً مناسباً.
مثال عملي
إذا كانت التدرجات تشير مرات متتالية إلى الاتجاه نفسه، يزيد الزخم خطوة الحركة بدلاً من بدء كل تحديث من الصفر.
خلي بالك: زخم كبير مع معدل تعلم مرتفع قد يتجاوز الحل أو يجعل التدريب غير مستقر.
مصطلحات مرتبطة
SGD، Optimizer، Learning Rate. جمع هذه المفاهيم يوضح موقع المصطلح داخل دورة بناء النظام وتقييمه وتشغيله.
المصادر: PyTorch
