ما معنى explainability؟

طريقة الاستخدام

تظهر في الأبحاث باسم الذكاء الاصطناعي القابل للتفسير (XAI). تهم مجالات الائتمان والتأمين والتوظيف والطب حيث قد يحتاج الشخص إلى معرفة سبب القرار. من الأساليب الشائعة SHAP وLIME. وتُناقش إلى جانب قابلية تفسير آلية النموذج داخليًا (interpretability).

أمثلة

1. For loan decisions explainability matters a lot, because customers can ask for the main reasons behind a rejection.

   تكتسب قابلية التفسير أهمية كبيرة في قرارات القروض، إذ يمكن للعملاء طلب الأسباب الرئيسية للرفض.

   ينبغي أن يكون بالإمكان بيان العوامل التي أدت إلى قرار مالي مؤثر.

2. The explainability report shows that the postcode had too much influence on the score.

   يوضح تقرير قابلية التفسير أن الرمز البريدي أثر كثيرًا في الدرجة.

   كشف التحليل أن موقع العميل كان عاملًا ذا وزن مفرط في نتيجة النموذج.

تراكيب شائعة

• model explainability
• explainability tools
• explainable AI
• feature attribution

مصطلحات ذات صلة

• fairnessالإنصاف
• biasتحيز
• featureسمة إدخال
• alignmentمواءمة الذكاء الاصطناعي

معنى الكلمة في مجالات أخرى

قد يختلف معنى الكلمة الإنجليزية نفسها من مجال إلى آخر:

• explainability · تطوير البرمجيات

مصطلحات أخرى: التحيز والسلامة والذكاء الاصطناعي المسؤول

• guardrail · ضابط وقائي
• red teaming · اختبار الفريق الأحمر
• jailbreak · كسر قيود النموذج