ما معنى attention؟
المعنى في مجال تطوير البرمجيات مع أمثلة
attention: الانتباه
آلية تمكّن النموذج من تحديد أجزاء مدخله الأشد صلة بكل جزء، ومنحها وزنًا أكبر عند إنشاء الخرج.
طريقة الاستخدام
هو الفكرة المحورية في المحولات. يتحدث المهندسون عن الانتباه الذاتي والرؤوس والطبقات وخرائط الانتباه. ولأن كلفته تزداد سريعًا مع طول المدخل، يهدف كثير من الأبحاث إلى تسريعه.
أمثلة
The attention maps suggest the model focuses on the drug name when it answers.
توحي خرائط الانتباه بأن النموذج يركز على اسم الدواء عند الإجابة.
تعرض الخريطة أجزاء المدخل التي أثرت أكثر في إنتاج الإجابة.
Each layer has 16 attention heads.
تضم كل طبقة 16 رأس انتباه.
يحدد المثال عدد وحدات الانتباه المتوازية في الطبقة الواحدة.
تراكيب شائعة
- self-attention
- attention head
- attention layer
- attention mechanism
- attention map
مصطلحات ذات صلة
معنى الكلمة في مجالات أخرى
قد يختلف معنى الكلمة الإنجليزية نفسها من مجال إلى آخر:
مصطلحات أخرى: تعلّم الآلة ومعالجة البيانات
- artificial intelligence · الذكاء الاصطناعي
- machine learning · التعلم الآلي
- model · نموذج
- dataset · مجموعة بيانات
- training data · بيانات التدريب
- label · وسم
- train · يدرّب نموذجاً
- supervised learning · التعلم الخاضع للإشراف
- deep learning · التعلم العميق
- loss function · دالة الخسارة
- overfitting · فرط التكيّف
- test set · مجموعة الاختبار
تدرّب على القراءة المتدرجة
تساعدك القراءة بالمستوى المناسب على تثبيت المفردات الجديدة. اختر كتبًا إنجليزية مجانية:
