Что значит red teaming?

Где и как употребляется

Проводится внутренними командами, внешними экспертами или автоматизированными инструментами до и после запуска. Участников называют red teamers; их выводы помогают улучшать защитные ограничения и обучение. Термин пришел из учений по безопасности, где команда играет роль атакующих.

Примеры предложений

1. Red teaming showed that the assistant would reveal its system prompt if asked in French.

   Редтиминг показал, что ассистент раскрывает системный промпт, если спросить по-французски.

   Проверка обнаружила обход защиты через запрос на другом языке.

2. We planned two weeks of red teaming before the public launch.

   Перед публичным запуском мы запланировали две недели тестирования красной командой.

   Перед выпуском выделен отдельный срок для целенаправленного поиска уязвимостей.

Распространённые словосочетания

• red teaming exercise
• red-team a model
• red teamers
• automated red teaming