ما معنى learning rate؟

طريقة الاستخدام

غالبًا ما يكون أول معامل فائق يضبطه المطورون. يتغير أثناء التدريب وفق جدول لمعدل التعلم، مع إحماء قصير في البداية وانخفاض تدريجي لاحقًا. يكتب LR في الملاحظات والشيفرة، مثل LR of 3e-4.

أمثلة

1. The loss exploded after a few hundred steps, so we lowered the learning rate.

   انفجرت قيمة الخسارة بعد بضع مئات من الخطوات، لذا خفضنا معدل التعلم.

   كانت خطوات تحديث المعاملات كبيرة وغير مستقرة، فأدى تصغيرها إلى تهدئة التدريب.

2. We increase the learning rate slowly during the first 1,000 steps as a warm-up.

   نرفع معدل التعلم تدريجيًا خلال أول ألف خطوة بوصف ذلك مرحلة إحماء.

   يبدأ التدريب بخطوات صغيرة ثم يصل إلى المعدل المستهدف تدريجيًا.

تراكيب شائعة

• lower the learning rate
• learning rate schedule
• learning rate warm-up
• initial learning rate

مصطلحات ذات صلة

• hyperparameterمعامل فائق
• gradient descentالانحدار المتدرج
• epochحقبة تدريب
• batch sizeحجم الدفعة

معنى الكلمة في مجالات أخرى

قد يختلف معنى الكلمة الإنجليزية نفسها من مجال إلى آخر:

• learning rate · تطوير البرمجيات

مصطلحات أخرى: تدريب النماذج

• train · يدرّب نموذجاً
• loss function · دالة الخسارة
• overfitting · فرط التكيّف
• underfitting · قصور التعلّم
• regularization · التنظيم
• checkpoint · نقطة حفظ
• converge · يتقارب