Введіть щонайменше 2 символи для пошуку в усіх галузях.
Що означає red teaming?
Значення й приклади · Розробка програмного забезпечення
red teaming: red teaming, перевірка на стійкість до атак
Тестування моделі або системи ШІ навмисними спробами змусити її помилитися чи поводитися шкідливо, щоб знайти слабкі місця до того, як ними скористаються користувачі або нападники.
Де і як уживається
Проводиться внутрішніми командами, зовнішніми фахівцями чи автоматизованими інструментами до й після запуску. Учасники — red teamers; їхні висновки допомагають створювати запобіжні механізми й покращувати навчання. Назва походить із безпекових вправ, де одна команда грає роль нападника.
Приклади речень
Red teaming showed that the assistant would reveal its system prompt if asked in French.
Red teaming показав, що асистент розкриває системний промпт, якщо запитати французькою.
Тестувальники виявили обхід захисту через запит іншою мовою.
We planned two weeks of red teaming before the public launch.
Перед публічним запуском ми запланували два тижні red teaming.
Команда виділила окремий період на пошук вразливостей до відкриття системи користувачам.
Поширені словосполучення
- red teaming exercise
- red-team a model
- red teamers
- automated red teaming
Пов’язані терміни
Це слово в інших галузях
Те саме англійське слово може мати інше значення в іншій галузі:
Інші терміни: Машинне навчання й обробка даних
- artificial intelligence · штучний інтелект
- machine learning · машинне навчання
- model · модель
- dataset · набір даних
- training data · тренувальні дані
- label · мітка
- train · навчати модель
- supervised learning · навчання з учителем
- neural network · нейронна мережа
- deep learning · глибинне навчання
- loss function · функція втрат
- overfitting · перенавчання
Закріплюйте лексику читанням
Тексти відповідного рівня допомагають запам’ятовувати нові слова. Оберіть безкоштовні книжки англійською: