Red teaming ne demek?
Yazılımda anlamı, Türkçe karşılığı ve örnek cümleler
Red teaming, yazılımda kırmızı takım testi, saldırgan gözüyle test anlamına gelir.
Bir modeli ya da yapay zeka sistemini, gerçek kullanıcılar veya saldırganlardan önce zayıf noktalarını bulmak için kasıtlı olarak başarısız olmaya ya da zararlı davranmaya zorlayarak test etmek.
English: Testing a model or AI system by deliberately trying to make it fail or behave harmfully, in order to find weaknesses before real users or attackers do.
Nerede ve nasıl kullanılır?
Yayından önce ve sonra şirket içi ekipler, dış uzmanlar ya da otomatik araçlar tarafından yapılır. Bu işi yapan kişilere red teamer denir; bulguları guardrail'lere ve sonraki eğitimlere aktarılır. Terim, bir ekibin saldırgan rolünü üstlendiği güvenlik tatbikatlarından gelir.
Örnek cümleler
Red teaming showed that the assistant would reveal its system prompt if asked in French.
Kırmızı takım testi, asistanın Fransızca sorulduğunda sistem istemini ifşa ettiğini ortaya çıkardı.
We planned two weeks of red teaming before the public launch.
Herkese açık lansmandan önce iki haftalık kırmızı takım testi planladık.
Sık kullanılan kalıplar
- red teaming exercise
- red-team a model
- red teamers
- automated red teaming
İlgili terimler
Bu kelime başka alanlarda
Aynı İngilizce kelime başka bir alanda farklı bir anlama gelebilir:
Aynı konudan: Makine Öğrenmesi ve Veri İşleme
- artificial intelligence · yapay zeka
- machine learning · makine öğrenmesi
- model · model
- dataset · veri kümesi
- training data · eğitim verisi
- label · etiket
- train · eğitmek
- supervised learning · denetimli öğrenme
- neural network · sinir ağı
- deep learning · derin öğrenme
- loss function · kayıp fonksiyonu
- overfitting · aşırı öğrenme
Seviyene uygun okumayla pekiştir
Yeni kelimelerin kalıcı olmasının en hızlı yolu seviyene uygun metin okumaktır. Seviyene göre ücretsiz İngilizce kitaplar: