Введіть щонайменше 2 символи для пошуку в усіх галузях.
Що означає alignment?
Значення й приклади · Розробка програмного забезпечення
alignment: узгодження ШІ з людськими намірами, alignment
Налаштування поведінки системи ШІ відповідно до намірів і цінностей людей, щоб вона була корисною, чесною й уникала шкоди; також галузь досліджень цієї проблеми.
Де і як уживається
Уживається і для практичної роботи (RLHF, навчання безпеки, оцінювання), і для довгострокових досліджень потужніших систем. Кажуть well aligned або misaligned model, alignment team та alignment research.
Приклади речень
Alignment work made the model more willing to admit when it doesn't know something.
Робота з узгодження зробила модель схильнішою визнавати, коли вона чогось не знає.
Налаштування поведінки заохотило модель чесно повідомляти про невпевненість.
She left product engineering to join the alignment research team.
Вона залишила розробку продуктів і приєдналася до дослідницької команди з alignment.
Alignment тут називає напрям досліджень, а не конкретне налаштування моделі.
Поширені словосполучення
- alignment research
- alignment team
- well aligned
- misaligned model
- safety and alignment
Пов’язані терміни
Це слово в інших галузях
Те саме англійське слово може мати інше значення в іншій галузі:
Інші терміни: Машинне навчання й обробка даних
- artificial intelligence · штучний інтелект
- machine learning · машинне навчання
- model · модель
- dataset · набір даних
- training data · тренувальні дані
- label · мітка
- train · навчати модель
- supervised learning · навчання з учителем
- neural network · нейронна мережа
- deep learning · глибинне навчання
- loss function · функція втрат
- overfitting · перенавчання
Закріплюйте лексику читанням
Тексти відповідного рівня допомагають запам’ятовувати нові слова. Оберіть безкоштовні книжки англійською: