¿Qué significa red teaming?
Significado en Inteligencia artificial y aprendizaje automático, traducción al español y ejemplos
red teaming: pruebas de ataque, red teaming
Pruebas de un modelo o sistema de IA que intentan deliberadamente hacerlo fallar o comportarse de forma dañina para encontrar debilidades antes que usuarios o atacantes.
Cómo se usa
Las realizan equipos internos, especialistas externos o herramientas automáticas antes y después del lanzamiento. Quienes participan son red teamers; sus hallazgos sirven para mejorar protecciones y entrenamiento. El término viene de ejercicios donde un equipo simula al atacante.
Frases de ejemplo
Red teaming showed that the assistant would reveal its system prompt if asked in French.
Las pruebas de ataque mostraron que el asistente revelaba su instrucción de sistema si se lo pedían en francés.
La evaluación encontró una vulnerabilidad que dependía del idioma de la solicitud.
We planned two weeks of red teaming before the public launch.
Planeamos dos semanas de pruebas de ataque antes del lanzamiento público.
El calendario reserva una fase explícita para buscar fallos antes de exponer el sistema.
Combinaciones frecuentes
- red teaming exercise
- red-team a model
- red teamers
- automated red teaming
Términos relacionados
Esta palabra en otras especialidades
Una misma palabra en inglés puede tener un significado diferente según la especialidad:
Más términos: Sesgos, seguridad e IA responsable
Practica con lecturas adaptadas a tu nivel
Leer textos de tu nivel te ayuda a recordar las palabras nuevas. Elige libros gratuitos en inglés: