Введите хотя бы 2 символа для поиска по всем отраслям.
Что значит alignment?
Значение и примеры · Искусственный интеллект
alignment: согласование ИИ с человеческими намерениями, выравнивание поведения ИИ
Настройка поведения ИИ-системы в соответствии с намерениями и ценностями людей, чтобы она была полезной, честной и не причиняла вреда; также область исследований этой задачи.
Где и как употребляется
Термин используют и для практической работы — RLHF, обучения безопасности, оценок, — и для долгосрочных исследований более способных систем. Говорят о хорошо согласованной или рассогласованной модели, командах и исследованиях alignment.
Примеры предложений
Alignment work made the model more willing to admit when it doesn't know something.
Работа над согласованием помогла модели охотнее признавать, когда она чего-то не знает.
Изменения сделали ответы более честными при недостатке информации.
She left product engineering to join the alignment research team.
Она ушла из продуктовой разработки в исследовательскую команду по согласованию ИИ.
Смена роли отражает переход к исследованиям безопасности и поведения моделей.
Распространённые словосочетания
- alignment research
- alignment team
- well aligned
- misaligned model
- safety and alignment
Связанные термины
Это слово в других отраслях
Одно и то же английское слово может иметь другое значение в другой отрасли:
Другие термины: Смещения, безопасность и ответственный ИИ
Закрепляйте лексику чтением
Тексты подходящего уровня помогают запоминать новые слова. Выберите бесплатные книги на английском: