¿Qué significa red teaming?

Cómo se usa

Las realizan equipos internos, especialistas externos o herramientas automáticas antes y después del lanzamiento. Quienes participan son red teamers; sus hallazgos sirven para mejorar protecciones y entrenamiento. El término viene de ejercicios donde un equipo simula al atacante.

Frases de ejemplo

1. Red teaming showed that the assistant would reveal its system prompt if asked in French.

   Las pruebas de ataque mostraron que el asistente revelaba su instrucción de sistema si se lo pedían en francés.

   La evaluación encontró una vulnerabilidad que dependía del idioma de la solicitud.

2. We planned two weeks of red teaming before the public launch.

   Planeamos dos semanas de pruebas de ataque antes del lanzamiento público.

   El calendario reserva una fase explícita para buscar fallos antes de exponer el sistema.

Combinaciones frecuentes

• red teaming exercise
• red-team a model
• red teamers
• automated red teaming

Términos relacionados

• guardrailbarrera de seguridad
• alignmentalineación
• biassesgo

Esta palabra en otras especialidades

Una misma palabra en inglés puede tener un significado diferente según la especialidad:

• red teaming · Inteligencia artificial y aprendizaje automáticopruebas de ataque

Más términos: Aprendizaje automático y procesamiento de datos

• artificial intelligence · inteligencia artificial
• machine learning · aprendizaje automático
• model · modelo
• dataset · conjunto de datos
• training data · datos de entrenamiento
• label · etiqueta
• train · entrenar
• supervised learning · aprendizaje supervisado
• neural network · red neuronal
• deep learning · aprendizaje profundo
• loss function · función de pérdida
• overfitting · sobreajuste