Введите хотя бы 2 символа для поиска по всем отраслям.
Что значит guardrail?
Значение и примеры · Искусственный интеллект
guardrail: защитное ограничение, предохранительный механизм модели
Правило или проверка вокруг модели, предотвращающие вредные, неуместные или небезопасные входы и выходы, например фильтр личных данных в ответах.
Где и как употребляется
Обычно употребляется во множественном числе: команды добавляют, тестируют и настраивают ограничения как на входе, так и на выходе. Это могут быть правила, классификаторы или отдельная LLM-проверяющая модель. Слово происходит от дорожных ограждений.
Примеры предложений
The guardrails block any answer that contains a credit card number.
Защитные фильтры блокируют любой ответ, содержащий номер кредитной карты.
Проверка предотвращает раскрытие чувствительных финансовых данных.
After launch we retuned the guardrails, because they were also blocking normal medical questions.
После запуска мы перенастроили ограничения: они блокировали и обычные медицинские вопросы.
Фильтр оказался чрезмерно строгим и ошибочно отклонял безопасные запросы.
Распространённые словосочетания
- add guardrails
- safety guardrails
- input and output guardrails
- guardrail model
Связанные термины
Это слово в других отраслях
Одно и то же английское слово может иметь другое значение в другой отрасли:
Другие термины: Смещения, безопасность и ответственный ИИ
Закрепляйте лексику чтением
Тексты подходящего уровня помогают запоминать новые слова. Выберите бесплатные книги на английском: