Англійська лексика: Розробка програмного забезпечення · Машинне навчання й обробка даних

Що означає guardrail?

Значення й приклади · Розробка програмного забезпечення

/ˈɡɑːrdreɪl/іменникПоширений термін

guardrail: запобіжний механізм, обмеження безпеки моделі

Правило або перевірка навколо моделі, що не допускає шкідливих, недоречних чи небезпечних входів і виходів, наприклад фільтр особистих даних у відповідях.

Де і як уживається

Зазвичай уживається у множині: команди додають, тестують і налаштовують обмеження і на вході, і на виході. Це можуть бути прості правила, моделі-класифікатори або друга LLM, що перевіряє першу. Слово походить від дорожніх металевих огорож.

Приклади речень

The guardrails block any answer that contains a credit card number.
Запобіжні механізми блокують будь-яку відповідь із номером кредитної картки.
Фільтр не дозволяє моделі розкрити чутливі платіжні дані.
After launch we retuned the guardrails, because they were also blocking normal medical questions.
Після запуску ми переналаштували обмеження, бо вони блокували й звичайні медичні запитання.
Надто суворий захист помилково відкидав допустимі запити, тож його скоригували.

Поширені словосполучення

add guardrails
safety guardrails
input and output guardrails
guardrail model

Це слово в інших галузях

Те саме англійське слово може мати інше значення в іншій галузі:

Інші терміни: Машинне навчання й обробка даних

Закріплюйте лексику читанням

Тексти відповідного рівня допомагають запам’ятовувати нові слова. Оберіть безкоштовні книжки англійською: