¿Qué significa knowledge distillation?

Cómo se usa

A menudo se dice simplemente destilación; el verbo inglés es distill. Se usa para reducir costes de inferencia o ejecutar modelos en teléfonos. Hay que revisar las licencias, pues algunas prohíben entrenar otros modelos con sus salidas.

Frases de ejemplo

1. Knowledge distillation gave us a model ten times smaller with only a 2% drop in accuracy.

   La destilación de conocimiento nos dio un modelo diez veces más pequeño con solo un 2 % menos de precisión.

   El ejemplo compara la reducción de tamaño con la pérdida de rendimiento.

2. We used knowledge distillation to build an on-device version of the classifier.

   Usamos destilación de conocimiento para crear una versión del clasificador que funciona en el dispositivo.

   El modelo reducido puede ejecutarse localmente en vez de depender de un servidor.

Combinaciones frecuentes

• teacher model
• student model
• distill a model
• distillation loss

Términos relacionados

• quantizationcuantización
• fine-tuningajuste fino
• inferenceinferencia
• modelmodelo

Esta palabra en otras especialidades

Una misma palabra en inglés puede tener un significado diferente según la especialidad:

• knowledge distillation · Inteligencia artificial y aprendizaje automáticodestilación de conocimiento

Más términos: Aprendizaje automático y procesamiento de datos

• artificial intelligence · inteligencia artificial
• machine learning · aprendizaje automático
• dataset · conjunto de datos
• training data · datos de entrenamiento
• label · etiqueta
• train · entrenar
• supervised learning · aprendizaje supervisado
• neural network · red neuronal
• deep learning · aprendizaje profundo
• loss function · función de pérdida
• overfitting · sobreajuste
• test set · conjunto de prueba