ما معنى attention؟

طريقة الاستخدام

هو الفكرة المحورية في المحولات. يتحدث المهندسون عن الانتباه الذاتي والرؤوس والطبقات وخرائط الانتباه. ولأن كلفته تزداد سريعًا مع طول المدخل، يهدف كثير من الأبحاث إلى تسريعه.

أمثلة

1. The attention maps suggest the model focuses on the drug name when it answers.

   توحي خرائط الانتباه بأن النموذج يركز على اسم الدواء عند الإجابة.

   تعرض الخريطة أجزاء المدخل التي أثرت أكثر في إنتاج الإجابة.

2. Each layer has 16 attention heads.

   تضم كل طبقة 16 رأس انتباه.

   يحدد المثال عدد وحدات الانتباه المتوازية في الطبقة الواحدة.

تراكيب شائعة

• self-attention
• attention head
• attention layer
• attention mechanism
• attention map

مصطلحات ذات صلة

• transformerبنية المحوّل
• layerطبقة
• context windowنافذة السياق
• neural networkشبكة عصبية

معنى الكلمة في مجالات أخرى

قد يختلف معنى الكلمة الإنجليزية نفسها من مجال إلى آخر:

• attention · تطوير البرمجيات
• attention · علم النفس

مصطلحات أخرى: الشبكات العصبية والتعلم العميق

• deep learning · التعلم العميق
• parameter · مَعْلَمة
• weights · أوزان النموذج
• activation function · دالة التنشيط
• backpropagation · الانتشار العكسي