Введите хотя бы 2 символа для поиска по всем отраслям.
Что значит jailbreak?
Значение и примеры · Искусственный интеллект
jailbreak: обход ограничений модели, джейлбрейк модели
Запрос или приём, рассчитанный на то, чтобы заставить модель игнорировать правила безопасности и выдать запрещённый ею ответ.
Где и как употребляется
Команды безопасности собирают известные способы обхода и проверяют на них новые версии. Это не то же самое, что prompt injection с инструкциями, спрятанными во входных данных приложения.
Примеры предложений
The new version resists every jailbreak in our test suite except two.
Новая версия выдерживает все проверки на обход ограничений, кроме двух.
Результаты испытаний показывают устойчивость модели к большинству проверенных атак.
Within an hour of launch, someone had found a jailbreak for the demo bot.
Через час после запуска кто-то нашёл способ обойти ограничения демонстрационного бота.
Уязвимость обнаружили вскоре после публичного запуска бота.
Распространённые словосочетания
- jailbreak attempt
- jailbreak a model
- known jailbreaks
- jailbreak prompt
Связанные термины
Это слово в других отраслях
Одно и то же английское слово может иметь другое значение в другой отрасли:
Другие термины: Смещения, безопасность и ответственный ИИ
Закрепляйте лексику чтением
Тексты подходящего уровня помогают запоминать новые слова. Выберите бесплатные книги на английском: