¿Qué significa quantization?
Significado en Desarrollo de software, traducción al español y ejemplos
quantization: cuantización
Representación de los pesos de un modelo, y a veces sus activaciones, con menos bits, por ejemplo 8 o 4 en vez de 16, para reducir tamaño y acelerar la ejecución.
Cómo se usa
Permite ejecutar modelos grandes con menos GPU o en portátiles y teléfonos. Suele haber una pequeña pérdida de calidad que se mide antes de publicar. Se dice cuantizado a 4 bits y se usan formatos como INT8.
Frases de ejemplo
After 4-bit quantization the model fits on a single GPU, and accuracy dropped by less than a point.
Con la cuantización a 4 bits el modelo cabe en una GPU y la precisión bajó menos de un punto.
La reducción de representación ahorra memoria con una pérdida pequeña medida.
Quantization made inference almost twice as fast on our servers.
La cuantización hizo que la inferencia fuera casi el doble de rápida en nuestros servidores.
El formato más compacto redujo el tiempo de cálculo de las respuestas.
Combinaciones frecuentes
- 4-bit quantization
- post-training quantization
- quantized model
- quantization error
Términos relacionados
Esta palabra en otras especialidades
Una misma palabra en inglés puede tener un significado diferente según la especialidad:
Más términos: Aprendizaje automático y procesamiento de datos
- artificial intelligence · inteligencia artificial
- machine learning · aprendizaje automático
- model · modelo
- dataset · conjunto de datos
- training data · datos de entrenamiento
- label · etiqueta
- train · entrenar
- supervised learning · aprendizaje supervisado
- neural network · red neuronal
- deep learning · aprendizaje profundo
- loss function · función de pérdida
- overfitting · sobreajuste
Practica con lecturas adaptadas a tu nivel
Leer textos de tu nivel te ayuda a recordar las palabras nuevas. Elige libros gratuitos en inglés: