Введіть щонайменше 2 символи для пошуку в усіх галузях.
Що означає guardrail?
Значення й приклади · Штучний інтелект
guardrail: запобіжний механізм, обмеження безпеки моделі
Правило або перевірка навколо моделі, що не допускає шкідливих, недоречних чи небезпечних входів і виходів, наприклад фільтр особистих даних у відповідях.
Де і як уживається
Зазвичай уживається у множині: команди додають, тестують і налаштовують обмеження і на вході, і на виході. Це можуть бути прості правила, моделі-класифікатори або друга LLM, що перевіряє першу. Слово походить від дорожніх металевих огорож.
Приклади речень
The guardrails block any answer that contains a credit card number.
Запобіжні механізми блокують будь-яку відповідь із номером кредитної картки.
Фільтр не дозволяє моделі розкрити чутливі платіжні дані.
After launch we retuned the guardrails, because they were also blocking normal medical questions.
Після запуску ми переналаштували обмеження, бо вони блокували й звичайні медичні запитання.
Надто суворий захист помилково відкидав допустимі запити, тож його скоригували.
Поширені словосполучення
- add guardrails
- safety guardrails
- input and output guardrails
- guardrail model
Пов’язані терміни
Це слово в інших галузях
Те саме англійське слово може мати інше значення в іншій галузі:
Інші терміни: Упередженість, безпека та відповідальний ШІ
Закріплюйте лексику читанням
Тексти відповідного рівня допомагають запам’ятовувати нові слова. Оберіть безкоштовні книжки англійською: