¿Qué significa attention?

Cómo se usa

Es una idea central de los transformers. Se habla de autoatención, cabezas, capas y mapas de atención; su coste crece rápidamente con la longitud de entrada, por lo que se busca acelerarla.

Frases de ejemplo

1. The attention maps suggest the model focuses on the drug name when it answers.

   Los mapas de atención sugieren que el modelo se fija en el nombre del medicamento al responder.

   El mapa señala qué fragmento de entrada recibe mayor peso.

2. Each layer has 16 attention heads.

   Cada capa tiene 16 cabezas de atención.

   Se indica cuántas unidades paralelas de atención contiene la capa.

Combinaciones frecuentes

• self-attention
• attention head
• attention layer
• attention mechanism
• attention map

Términos relacionados

• transformertransformer
• layercapa
• context windowventana de contexto
• neural networkred neuronal

Esta palabra en otras especialidades

Una misma palabra en inglés puede tener un significado diferente según la especialidad:

• attention · Inteligencia artificial y aprendizaje automáticoatención
• attention · Psicologíaatención

Más términos: Aprendizaje automático y procesamiento de datos

• artificial intelligence · inteligencia artificial
• machine learning · aprendizaje automático
• model · modelo
• dataset · conjunto de datos
• training data · datos de entrenamiento
• label · etiqueta
• train · entrenar
• supervised learning · aprendizaje supervisado
• deep learning · aprendizaje profundo
• loss function · función de pérdida
• overfitting · sobreajuste
• test set · conjunto de prueba