إيه هو الـ Learning Rate؟ | معدل التعلم

باختصار

الـ Learning Rate هو رقم بيحدد حجم الخطوة اللي النموذج بياخدها وهو بيعدّل أوزانه أثناء التدريب. لو الرقم ده كبير أوي، النموذج ممكن يفوّت الحل الأمثل ويفضل يتأرجح. ولو صغير أوي، التدريب هيبقى بطيء جداً وممكن يقف عند حل مش مثالي.

بالتفصيل

تخيل إنك بتنزل من جبل في ضلمة وعايز توصل لأوطى نقطة في الوادي. كل خطوة بتاخدها لازم تكون محسوبة — لو خطوتك كبيرة أوي، ممكن تتخطى الوادي وتلاقي نفسك على الجبل اللي قصاده. ولو خطوتك صغيرة أوي، هتفضل ماشي لساعات طويلة من غير ما توصل. الـ Learning Rate هو بالظبط حجم الخطوة دي في عالم تدريب النماذج.

في عملية تدريب أي نموذج Machine Learning، النموذج بيحاول يقلل الخطأ بتاعه عن طريق إنه يعدّل الأوزان الداخلية بتاعته. الـ Learning Rate بيحدد قد إيه التعديل ده هيكون كبير في كل خطوة. لو قيمته عالية — مثلاً 0.1 — النموذج هيتعلم بسرعة في الأول بس ممكن يفضل يتأرجح حوالين الحل من غير ما يستقر. ولو قيمته واطية أوي — مثلاً 0.00001 — النموذج هيكون دقيق بس بطيء جداً وممكن يتعلّق في حفرة صغيرة (Local Minimum) ويفتكر إنها أحسن حاجة.

عشان كده، اختيار الـ Learning Rate المناسب يعتبر من أهم القرارات اللي المهندس بياخدها. في الغالب بيبدأ بقيمة متوسطة زي 0.001 وبعدين بيجرب ويعدّل. وفي تقنيات حديثة زي Learning Rate Scheduling بتخلي القيمة دي تتغير أثناء التدريب — تبدأ كبيرة عشان التعلم يكون سريع، وبعدين تصغّر تدريجياً عشان النموذج يستقر على أحسن نتيجة.

الـ Learning Rate بيتعامل مع الـ Optimizer اللي هو الخوارزمية المسؤولة عن التعديل. أنواع مختلفة من الـ Optimizers زي Adam وSGD بتتعامل مع الـ Learning Rate بطرق مختلفة، وده بيأثر على سرعة وجودة التدريب.

مثال عملي

لو بتدرّب نموذج يتعرف على صور القطط والكلاب، وحطيت Learning Rate كبير زي 0.5، هتلاقي النموذج بيتعلم بسرعة في الأول بس الدقة بتاعته بتتأرجح — مرة 80% ومرة 40%. لكن لو استخدمت قيمة 0.001، النموذج هيتحسن بثبات ويوصل لدقة 95% بعد شوية تدريب. وده بيوضح إزاي اختيار الرقم الصح بيفرق في النتيجة النهائية.

مصطلحات مرتبطة

شاهد أيضاً

إيه هو الـ Mixture of Experts (MoE)؟ | مزيج الخبراء

باختصار الـ Mixture of Experts (MoE) (مزيج الخبراء) — بنية نموذج فيها عدة شبكات “خبيرة” …

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *