ما معنى red teaming؟

طريقة الاستخدام

تجريه فرق داخلية أو خبراء خارجيون أو أدوات آلية قبل الإطلاق وبعده. ويغذي ما يكتشفه المختبرون تحسين الضوابط والتدريب. المصطلح مأخوذ من تمارين أمنية يؤدي فيها فريق دور المهاجم.

أمثلة

1. Red teaming showed that the assistant would reveal its system prompt if asked in French.

   كشف اختبار الفريق الأحمر أن المساعد سيفصح عن توجيه النظام إذا طُلب منه ذلك بالفرنسية.

   أظهر الاختبار أن تغيير اللغة قد يتجاوز الحماية ويكشف تعليمات داخلية.

2. We planned two weeks of red teaming before the public launch.

   خططنا لأسبوعين من اختبارات الفريق الأحمر قبل الإطلاق العام.

   خصص الفريق فترة لاكتشاف الثغرات ومحاولة إساءة استخدام النظام قبل إتاحته للجميع.

تراكيب شائعة

• red teaming exercise
• red-team a model
• red teamers
• automated red teaming

مصطلحات ذات صلة

• jailbreakكسر قيود النموذج
• guardrailضابط وقائي
• alignmentمواءمة الذكاء الاصطناعي
• biasتحيز

معنى الكلمة في مجالات أخرى

قد يختلف معنى الكلمة الإنجليزية نفسها من مجال إلى آخر:

• red teaming · تطوير البرمجيات

مصطلحات أخرى: التحيز والسلامة والذكاء الاصطناعي المسؤول

• fairness · الإنصاف
• explainability · قابلية التفسير