Введите хотя бы 2 символа для поиска по всем отраслям.
Что значит alignment?
Значение и примеры · Разработка программного обеспечения
alignment: согласование ИИ с человеческими намерениями, выравнивание поведения ИИ
Настройка поведения ИИ-системы в соответствии с намерениями и ценностями людей, чтобы она была полезной, честной и не причиняла вреда; также область исследований этой задачи.
Где и как употребляется
Термин используют и для практической работы — RLHF, обучения безопасности, оценок, — и для долгосрочных исследований более способных систем. Говорят о хорошо согласованной или рассогласованной модели, командах и исследованиях alignment.
Примеры предложений
Alignment work made the model more willing to admit when it doesn't know something.
Работа над согласованием помогла модели охотнее признавать, когда она чего-то не знает.
Изменения сделали ответы более честными при недостатке информации.
She left product engineering to join the alignment research team.
Она ушла из продуктовой разработки в исследовательскую команду по согласованию ИИ.
Смена роли отражает переход к исследованиям безопасности и поведения моделей.
Распространённые словосочетания
- alignment research
- alignment team
- well aligned
- misaligned model
- safety and alignment
Связанные термины
Это слово в других отраслях
Одно и то же английское слово может иметь другое значение в другой отрасли:
Другие термины: Машинное обучение и обработка данных
- artificial intelligence · искусственный интеллект
- machine learning · машинное обучение
- model · модель
- dataset · набор данных
- training data · обучающие данные
- label · метка
- train · обучать модель
- supervised learning · обучение с учителем
- neural network · нейронная сеть
- deep learning · глубокое обучение
- loss function · функция потерь
- overfitting · переобучение
Закрепляйте лексику чтением
Тексты подходящего уровня помогают запоминать новые слова. Выберите бесплатные книги на английском: