ما معنى red teaming؟

طريقة الاستخدام

تجريه فرق داخلية أو خبراء خارجيون أو أدوات آلية قبل الإطلاق وبعده. ويغذي ما يكتشفه المختبرون تحسين الضوابط والتدريب. المصطلح مأخوذ من تمارين أمنية يؤدي فيها فريق دور المهاجم.

أمثلة

1. Red teaming showed that the assistant would reveal its system prompt if asked in French.

   كشف اختبار الفريق الأحمر أن المساعد سيفصح عن توجيه النظام إذا طُلب منه ذلك بالفرنسية.

   أظهر الاختبار أن تغيير اللغة قد يتجاوز الحماية ويكشف تعليمات داخلية.

2. We planned two weeks of red teaming before the public launch.

   خططنا لأسبوعين من اختبارات الفريق الأحمر قبل الإطلاق العام.

   خصص الفريق فترة لاكتشاف الثغرات ومحاولة إساءة استخدام النظام قبل إتاحته للجميع.

تراكيب شائعة

• red teaming exercise
• red-team a model
• red teamers
• automated red teaming

مصطلحات ذات صلة

• guardrailضابط وقائي
• alignmentمواءمة الذكاء الاصطناعي
• biasتحيز

معنى الكلمة في مجالات أخرى

قد يختلف معنى الكلمة الإنجليزية نفسها من مجال إلى آخر:

• red teaming · الذكاء الاصطناعي وتعلّم الآلة

مصطلحات أخرى: تعلّم الآلة ومعالجة البيانات

• artificial intelligence · الذكاء الاصطناعي
• machine learning · التعلم الآلي
• model · نموذج
• dataset · مجموعة بيانات
• training data · بيانات التدريب
• label · وسم
• train · يدرّب نموذجاً
• supervised learning · التعلم الخاضع للإشراف
• neural network · شبكة عصبية
• deep learning · التعلم العميق
• loss function · دالة الخسارة
• overfitting · فرط التكيّف