ما معنى quantization؟

طريقة الاستخدام

يستخدم لتشغيل نماذج كبيرة على عدد أقل أو وحدات أصغر من GPU، وعلى الحواسيب المحمولة والهواتف. يحدث عادة انخفاض طفيف في الجودة تقيسه الفرق قبل الإصدار. يقال نموذج مكمم إلى 4 بتات، ومن الصيغ INT8.

أمثلة

1. After 4-bit quantization the model fits on a single GPU, and accuracy dropped by less than a point.

   بعد التكميم إلى 4 بتات، أصبح النموذج يلائم وحدة GPU واحدة، وانخفضت الدقة بأقل من نقطة واحدة.

   قلل التكميم متطلبات الذاكرة مع أثر محدود في أداء النموذج.

2. Quantization made inference almost twice as fast on our servers.

   جعل التكميم الاستدلال أسرع بنحو الضعف على خوادمنا.

   أدى تمثيل الأوزان بدقة أقل إلى تسريع تنفيذ النموذج.

تراكيب شائعة

• 4-bit quantization
• post-training quantization
• quantized model
• quantization error

مصطلحات ذات صلة

• inferenceاستدلال النموذج
• GPUوحدة معالجة الرسوميات
• knowledge distillationتقطير المعرفة
• weightsأوزان النموذج
• LoRAالتكيّف منخفض الرتبة LoRA

معنى الكلمة في مجالات أخرى

قد يختلف معنى الكلمة الإنجليزية نفسها من مجال إلى آخر:

• quantization · الذكاء الاصطناعي وتعلّم الآلة

مصطلحات أخرى: تعلّم الآلة ومعالجة البيانات

• artificial intelligence · الذكاء الاصطناعي
• machine learning · التعلم الآلي
• model · نموذج
• dataset · مجموعة بيانات
• training data · بيانات التدريب
• label · وسم
• train · يدرّب نموذجاً
• supervised learning · التعلم الخاضع للإشراف
• neural network · شبكة عصبية
• deep learning · التعلم العميق
• loss function · دالة الخسارة
• overfitting · فرط التكيّف